Nos machines vont-elles devenir plus intelligentes et plus puissantes que nous ? Notre avenir est-il celui d’une cybersociété où l’humanité sera marginalisée ? Ou accéderons-nous à une forme d’immortalité en téléchargeant nos esprits sur les ordinateurs de demain ?
Ce moment critique, baptisé « Singularité technologique », fait partie des nouveaux buzzwords de la futurologie contemporaine et son imminence est proclamée à grand renfort d’annonces par des technogourous comme Ray Kurzweil (chef de projet chez Google !) ou Nick Bostrom (de la vénérable université d’Oxford). Certains scientifiques et entrepreneurs, non des moindres, tels Stephen Hawking ou Bill Gates, partagent ces perspectives et s’en inquiètent.
Un essai critique et concis par l’un de nos meilleurs experts des humanités numériques.
Nous ne vivons plus dans les fers. Pourtant, nous le constatons, nous ne sommes pas vraiment libres ; nous nous prenons de plus en plus souvent aux rets du numérique dont nous devenons captifs. Les flux de données – textes, images, sons – qui attestent, trahissent, influencent nos vies affectives, personnelles et professionnelles, sont manipulés à notre insu par les techniques de l’intelligence artificielle. Il en résulte une évolution majeure de la condition humaine, qui rend nécessaire et urgente une réflexion sur les conséquences politiques, sociales et même morales des technologies de l’information et de la communication.
Cet essai vif, original et engagé vise à faire le point sur ces questions. Passant au crible la vulgate « éthique » usuelle, Jean-Gabriel Ganascia en dévoile les limites. Car, pour louables que nous apparaissent les principes invoqués, les avis rendus par les comités de régulation n’aboutissent le plus souvent qu’à des recommandations vaines qui nous laissent impuissants face au monde qui se fait jour sous nos yeux ; pire, elles font souvent écho à des craintes caduques, tout en éludant les risques patents. Nous invitant à ne pas nous reposer sur des doctrines morales convenues, l’auteur nous offre un marteau pour heurter les principes éthiques qui les fondent, les écouter résonner et entendre leur plénitude, ou leur éventuelle vacuité.