Numérique : « Les machines n’ont pas d’éthique »
Des applications qui déterminent notre humeur, des robots humanoïdes qui s’adaptent à notre comportement, des caméras qui nous surveillent pour notre bien. Le monde moderne est rempli de machines « à notre service » mais sont-elles toujours bienveillantes ? Faut-il croire au contraire à une Intelligence Artificielle qui pourrait un jour être hostile à l’Homme ? Cette semaine, dans l’émission Livres & vous, Guillaume Erner s’entoure de deux philosophes, Pierre Cassou-Noguès, auteur de « La bienveillance des machines » et Jean-Gabriel Ganascia, auteur de « Servitude virtuelle » et professeur d’informatique.

Numérique : « Les machines n’ont pas d’éthique »

Des applications qui déterminent notre humeur, des robots humanoïdes qui s’adaptent à notre comportement, des caméras qui nous surveillent pour notre bien. Le monde moderne est rempli de machines « à notre service » mais sont-elles toujours bienveillantes ? Faut-il croire au contraire à une Intelligence Artificielle qui pourrait un jour être hostile à l’Homme ? Cette semaine, dans l’émission Livres & vous, Guillaume Erner s’entoure de deux philosophes, Pierre Cassou-Noguès, auteur de « La bienveillance des machines » et Jean-Gabriel Ganascia, auteur de « Servitude virtuelle » et professeur d’informatique.
Public Sénat

Temps de lecture :

3 min

Publié le

L’intelligence artificielle, est une question plus ancienne qu’on ne croit ! Avec l’apparition des premiers ordinateurs, dès 1955-1956, les chercheurs se penchent sur cette question.
Un défi, explique Jean-Gabriel Ganascia : C’est en appliquant une méthode scientifique, la psychologie cognitive (étude de l’ensemble des facultés intellectuelles, de mémorisation, de communication) et en la transposant au monde des objets que les scientifiques ont pu comprendre « l’intelligence » de ces ordinateurs et robots.

Si ces nouvelles machines n’ont pas d’éthique à proprement parler, poursuit Jean-Gabriel Ganascia cela n’empêche pas ces machines d’interférer avec notre monde : « Le monde dans lequel nous vivons est alors transformé par leur présence et les relations entre les hommes sont bouleversées : le tissu social, l’amitié, la confiance, la réputation tout cela se réécrit avec le numérique ».
Qu’il n’y ait pas « de morale des ordinateurs, c’est évident » affirme le professeur, en revanche « on peut contraindre une machine à agir en fonction d’un certain nombre de règles, premiers pas vers une nouvelle forme de servitude, une servitude virtuelle… »

« Les machines, des objets pas comme les autres »

Toutes ces machines, poursuit le philosophe Pierre Cassou-Noguès ont une spécificité : « Le résultat dépend de la relation qui nous entretenons avec elles ».
Une application qui définit votre humeur en analysant le son de votre voix, par exemple, peut-elle influencer votre vie ? Pour le philosophe, oui.  « La façon dont on considère l’Intelligence Artificielle détermine le succès, ou non, de cette machine » au risque de régler sa vie sur le fonctionnement d’un objet. Un paradoxe peut-être !
Mais une machine peut-elle être bienveillante comme le suggère le titre de l’ouvrage de Pierre Cassou-Noguès et « nous surveiller pour notre bien » ? N’est-ce pas un peu effrayant d’imaginer que des robots puissent prendre le pouvoir comme parfois dans la littérature fantastique ?

Des robots pour vivre en paix mais aussi pour faire la guerre

En 1945, Georges Bernanos écrit « La France contre les robots », un ouvrage publié dans l’immédiat après-guerre, une période propice au progrès même si ce dernier n’est pas sans conséquences. Ces techniques issues de la guerre, apparaissent après la bombe atomique, un moment où la science a montré qu’elle pouvait produire le pire… comme le meilleur » conclut Pierre Cassou-Noguès.
La science est donc toute-puissante pour les invités de Livres & vous, et il faut savoir la maîtriser. Une leçon tirée de la lecture de Georges Bernanos qu’il est encore bon de suivre aujourd’hui à l’heure des drones de combats qui transforment les guerres contemporaines en guerre sans soldats.

Retrouvez l’intégralité de l’émission « Livres & vous » ici.

« La bienveillance des machines » de Pierre Cassou-Noguès - Ed. du Seuil
« Servitude virtuelle » de Jean-Gabriel Ganascia – Ed. du Seuil

Partager cet article

Dans la même thématique

Paris: Gerard Larcher elu President du Senat
6min

Politique

« Grand oral », « intox » et promesses : un match oppose Patrick Kanner à Rachid Temal pour la tête du groupe PS du Sénat

Les 62 sénateurs PS vont élire ce mercredi leur président de groupe. Le sortant Patrick Kanner, président depuis 2018, voit son poste convoité par Rachid Temal, qui pointe le manque de collégialité. Entre grands oraux passés ce mardi par le courant d’Olivier Faure et discussions de couloirs, cette campagne courte et discrète n’en est pas moins intense.

Le

« Ce sera du jamais vu depuis l’entre-deux-guerres » : le coût annuel de notre dette continue sa remontée, menaçant d’asphyxier nos capacités d’action
8min

Politique

« Ce sera du jamais vu depuis l’entre-deux-guerres » : le coût annuel de notre dette continue sa remontée, menaçant d’asphyxier nos capacités d’action

La hausse des taux d’intérêt continue de s’élever à un rythme qui n’avait pas été anticipé. Elle renchérit à la fois le coût des nouvelles émissions de dette mais aussi le renouvellement des anciens bons du Trésor. Selon l’économiste Anthony Morlet-Lavidalie, la charge annuelle de la dette pourrait à moyen terme retrouver des niveaux que la France n’avait plus connu depuis l’entre-deux-guerres.

Le

Paris : Block Everything protest day
7min

Politique

Blocus des lycées : « Une fois sorti du tube, le dentifrice ne rentre plus »

Parti de revendications sur les moyens, le manque d’enseignants ou les conditions d’étude, le mouvement lycéen s’étend de ville en ville. Le soutien affiché de La France insoumise et la réponse ferme du gouvernement ont progressivement déplacé la contestation sur le terrain politique. Mais les sociologues insistent sur l’autonomie des élèves et redoutent que l’affrontement entre adultes ne finisse par éclipser leurs revendications.

Le

La Seyne-sur-Mer RN party’s President Jordan Bardella
8min

Politique

Accusations d'antisémitisme : « La défense de Jordan Bardella est assez classique. C’est celle de Fillon en 2017 », selon le communiquant Philippe Moreau-Chevrolet

Dans la tourmente depuis lundi et l’article de Mediapart qui a révélé des écrits antisémites datant de 2013, le président du RN, Jordan Bardella, a annoncé dans la foulée le dépôt d’une plainte pour diffamation et dénonce une opération destinée à le « tuer politiquement ». Cette mise en avant d’une « manipulation » n’est pas sans rappeler la défense de François Fillon il y a 10 ans et pose la question d’une future mise à l’écart de celui censé former un ticket avec Marine Le Pen pour l’élection présidentielle.

Le