Intelligence artificielle, le risque de l’homme diminué

Qui doit avoir peur de l'autre, l’homme ou la machine ? Nous sommes en 1972 et Michel Melkanoff, directeur du département d’informatique à l’université de Los Angeles, anticipe déjà sur les risques que les ordinateurs feront peser sur les hommes. Avec 40 ans d'avance il dénonce la crainte de voir des banques de données personnelles stockées dans des ordinateurs et réutilisées par la suite pour faire pression sur les hommes. Mais dit-il à l'époque : « le risque n'est pas la machine, c'est l'usage qu'en fait l'homme ». Pour le physicien et philosophe des sciences Etienne Klein, il s’agit avant tout « d’un visionnaire qui avait compris les potentialités et les dangers associés à la machine mais aussi des atteintes à la vie privée ou à la liberté politique ».

Les machines douées d'intelligence artificielle « ont des boites noires et nous ne savons pas comment elles sont arrivées à la conclusion qu’elles proposent »

Alors est-ce l’homme qui est le véritable danger ? « À l’époque on pense que le mot de la fin sera toujours donné à l’homme » selon Etienne Klein mais cela a évolué aujourd’hui car avec l’intelligence les processus d’apprentissage des machines nous échappent « on ne sait pas du tout comment elles ont procédé, elles ont des boites noires et nous ne savons pas comment elles sont arrivées à la conclusion qu’elles proposent, et du coup avoir un esprit critique à l’égard d’une possible décision de la machine sans savoir comment elle-même a procédé risque d’être un exercice délicat. »

Le robot au service de l’homme

Si la crainte d’une domination de la machine apparaît dans les années 70, les premiers robots sont d’abord perçus comme une aide, un prolongement de l’homme. Nous sommes en 1949 et aux États-Unis les premiers robots font leur apparition. Un bras articulé permet au physicien de manipuler sans danger une matière radioactive. Pour Etienne Klein, à l’époque « l’idée c’est de protéger l’homme ». Et la guerre qui vient de se terminer par l’explosion des bombes atomiques sur Nagasaki et Hiroshima, n’entame pas l’espoir de voir la technique apporter une meilleure vie à l’homme. Au contraire les jeunes physiciens se passionnent pour cette nouvelle technique. Les robots d’alors ne représentent pas encore une menace. Ni pour l’homme, ni pour l’emploi. Dans les années 60 il faut produire plus et augmenter les rendements. Le basculement vient plus tard, dans les années 90, avec le développement de l’intelligence artificielle.  

La première défaite de l’homme face à la machine

Deep blue ce nom vous dit-il quelque chose ? En 1997, le champion d’échec russe Garry Kasparov est battu pour la première fois par un ordinateur. Un tournant dans le match qui oppose machine à l’homme. Pour Etienne Klein il s’agit avant tout « d’une honte prométhéenne, de l’homme battu par une machine qui l‘humilie et le dépasse (…) pour autant Kasparov peut se consoler en se disant que Deep blue ne sait rien faire d’autre que de jouer aux échecs, ce sont des machines spécifiques qui ne connaissent qu’une seule tâche ».

« l’homme augmenté n’est pas du tout garanti, il peut devenir un homme diminué, à force de déléguer toutes sortes de tâches à la machine, le cerveau peut perdre de sa capacité ».

La fusion de l’homme et de la machine

En 2015 les projets de Google sur le transhumanisme et d’une possible fusion homme-machine, relance l’idée que l’homme puisse fusionner avec la machine, devenir en partie artificiel et toucher l’immortalité. Un projet qui alimente aussi bien les curiosités que les craintes. Pour Etienne Klein « il s’agit de l’homme augmenté pour guérir des maladies et avoir des performances améliorées (…) ce n’est pas un progrès mais plutôt une rupture avec l’homme tel que l’on le connaît (…) » mais attention nous dit le physicien « l’homme augmenté n’est pas du tout garanti, il peut devenir un homme diminué, à force de déléguer toutes sortes de taches à la machine, le cerveau peut perdre de sa capacité ».

Alors faut-il fixer une limite au progrès scientifique ? Pour Pascal Griset « cette limite est difficile à déterminer (…) pour l’instant le meilleur ordinateur est notre cerveau. La véritable question est donc de savoir si l’ordinateur du futur sera biologique ou électronique (…) car alors la limite entre l’humain et la machine n’existera même plus matériellement ».