Intelligence artificielle, le risque de l’homme diminué

Intelligence artificielle, le risque de l’homme diminué

Faire de la France un des leaders de l'intelligence artificielle, au moment où le Président de la République a annoncé des mesures pour soutenir la recherche dans ce domaine, l'info dans le rétro revient sur l'histoire compliquée des relations entre l'homme et la machine, entre espoir d’un avenir radieux ou la crainte de l'apocalypse. De la création en 1949 du premier robot atomique au service de l’homme à l’avènement d’une intelligence mi-humaine mi-artificielle, retour sur ces rapports complexes entre les hommes et les machines.
Public Sénat

Par Adrien BAGET et Pierre BONTE-JOSEPH

Temps de lecture :

4 min

Publié le

Mis à jour le

Qui doit avoir peur de l'autre, l’homme ou la machine ? Nous sommes en 1972 et Michel Melkanoff, directeur du département d’informatique à l’université de Los Angeles, anticipe déjà sur les risques que les ordinateurs feront peser sur les hommes. Avec 40 ans d'avance il dénonce la crainte de voir des banques de données personnelles stockées dans des ordinateurs et réutilisées par la suite pour faire pression sur les hommes. Mais dit-il à l'époque : « le risque n'est pas la machine, c'est l'usage qu'en fait l'homme ». Pour le physicien et philosophe des sciences Etienne Klein, il s’agit avant tout « d’un visionnaire qui avait compris les potentialités et les dangers associés à la machine mais aussi des atteintes à la vie privée ou à la liberté politique ».

Les machines douées d'intelligence artificielle « ont des boites noires et nous ne savons pas comment elles sont arrivées à la conclusion qu’elles proposent »

Alors est-ce l’homme qui est le véritable danger ? « À l’époque on pense que le mot de la fin sera toujours donné à l’homme » selon Etienne Klein mais cela a évolué aujourd’hui car avec l’intelligence les processus d’apprentissage des machines nous échappent « on ne sait pas du tout comment elles ont procédé, elles ont des boites noires et nous ne savons pas comment elles sont arrivées à la conclusion qu’elles proposent, et du coup avoir un esprit critique à l’égard d’une possible décision de la machine sans savoir comment elle-même a procédé risque d’être un exercice délicat. »

Le robot au service de l’homme

Si la crainte d’une domination de la machine apparaît dans les années 70, les premiers robots sont d’abord perçus comme une aide, un prolongement de l’homme. Nous sommes en 1949 et aux États-Unis les premiers robots font leur apparition. Un bras articulé permet au physicien de manipuler sans danger une matière radioactive. Pour Etienne Klein, à l’époque « l’idée c’est de protéger l’homme ». Et la guerre qui vient de se terminer par l’explosion des bombes atomiques sur Nagasaki et Hiroshima, n’entame pas l’espoir de voir la technique apporter une meilleure vie à l’homme. Au contraire les jeunes physiciens se passionnent pour cette nouvelle technique. Les robots d’alors ne représentent pas encore une menace. Ni pour l’homme, ni pour l’emploi. Dans les années 60 il faut produire plus et augmenter les rendements. Le basculement vient plus tard, dans les années 90, avec le développement de l’intelligence artificielle.  

 

1997, machine 1 homme 0
01:07

 

La première défaite de l’homme face à la machine

Deep blue ce nom vous dit-il quelque chose ? En 1997, le champion d’échec russe Garry Kasparov est battu pour la première fois par un ordinateur. Un tournant dans le match qui oppose machine à l’homme. Pour Etienne Klein il s’agit avant tout « d’une honte prométhéenne, de l’homme battu par une machine qui l‘humilie et le dépasse (…) pour autant Kasparov peut se consoler en se disant que Deep blue ne sait rien faire d’autre que de jouer aux échecs, ce sont des machines spécifiques qui ne connaissent qu’une seule tâche ».

« l’homme augmenté n’est pas du tout garanti, il peut devenir un homme diminué, à force de déléguer toutes sortes de tâches à la machine, le cerveau peut perdre de sa capacité ».

La fusion de l’homme et de la machine

En 2015 les projets de Google sur le transhumanisme et d’une possible fusion homme-machine, relance l’idée que l’homme puisse fusionner avec la machine, devenir en partie artificiel et toucher l’immortalité. Un projet qui alimente aussi bien les curiosités que les craintes. Pour Etienne Klein « il s’agit de l’homme augmenté pour guérir des maladies et avoir des performances améliorées (…) ce n’est pas un progrès mais plutôt une rupture avec l’homme tel que l’on le connaît (…) » mais attention nous dit le physicien « l’homme augmenté n’est pas du tout garanti, il peut devenir un homme diminué, à force de déléguer toutes sortes de taches à la machine, le cerveau peut perdre de sa capacité ».

Alors faut-il fixer une limite au progrès scientifique ? Pour Pascal Griset « cette limite est difficile à déterminer (…) pour l’instant le meilleur ordinateur est notre cerveau. La véritable question est donc de savoir si l’ordinateur du futur sera biologique ou électronique (…) car alors la limite entre l’humain et la machine n’existera même plus matériellement ».

 

Dans la même thématique

Manifestation contre les violences sur les mineurs, Toulouse
4min

Société

Relaxe d’un homme accusé de violences familiales : le droit de correction invoqué par les juges est « contraire à la loi »

Ce 18 avril, la cour d’appel de Metz a relaxé un policier condamné en première instance pour des faits de violences sur ses enfants et sa compagne. Dans leur arrêt, les juges ont indiqué qu’un « droit de correction est reconnu aux parents ». Une décision qui indigne la sénatrice Marie-Pierre de la Gontrie, rapporteure d’une proposition de loi qui interdit les « violences éducatives » depuis 2019.

Le

Intelligence artificielle, le risque de l’homme diminué
4min

Société

« J’ai toujours été frappé par le degré de bienveillance dont je bénéficie », François Molins

Entre 2012 et 2018, une série d’attentats touche la France. Dans la tourmente, une voix rassurante émerge, celle de François Molins, procureur de la République. Pédagogie et sang-froid ont toujours été de mise dans ses prises de parole. Tant et si bien qu’un lien fort s’est construit entre les Français et lui. Comment a-t-il traversé ces moments de terreur ? Comment explique-t-il la sympathie des Français à son égard ? Cette semaine, François Molins est l’invité de Rebecca Fitoussi dans « Un Monde un Regard ».

Le

Intelligence artificielle, le risque de l’homme diminué
3min

Société

« Quand j’ai abordé les viols sur enfants, j’ai reçu beaucoup de courriers me traitant de rabat-joie », Mireille Dumas

Dans son émission « Bas les masques » ou encore « Vie privée, vie publique », Mireille Dumas a mis en lumière des parcours de vie peu écoutés, et pourtant loin d’être des cas isolés. Alors que les féminicides étaient qualifiés de « crimes passionnels », elle dénonçait déjà les violences perpétrées à l’encontre des femmes, des enfants et des minorités de genre. Quel regard porte-t-elle sur l’évolution de la société sur ces questions ? Comment explique-t-elle son intérêt pour les autres ? Cette semaine, Mireille Dumas est l’invitée de Rebecca Fitoussi dans « Un Monde un Regard ».

Le