Intelligences artificielles : « On ne peut pas leur faire confiance », prévient le concepteur de l’assistant vocal Siri

Auditionné par la commission des affaires économiques du Sénat, l’informaticien Luc Julia, concepteur de l’assistant vocal Siri a démystifié les idées reçues sur l’intelligence artificielle. S’il conçoit cette nouvelle technologie comme un « outil » permettant de dégager du temps, il alerte sur le manque de fiabilité des informations.
Marius Texier

Temps de lecture :

3 min

Publié le

« On entend souvent dire que les intelligences artificielles vont être plus intelligentes que nous, alors je vais vous donner un scoop, elles le sont déjà, car par définition, un outil est meilleur que nous », lance Luc Julia devant les sénateurs de la commission. « Les IA ne sont cependant pas une révolution, mais plutôt une évolution », tient-il à préciser. « Sa révolution tient au fait qu’elle est désormais accessible à n’importe qui et donc que chacun peut en faire n’importe quoi ».

« Ces IA disent n’importe quoi »

Ancien vice-président de l’innovation au sein de l’entreprise Samsung pendant une dizaine d’années et spécialiste de l’intelligence artificielle, Luc Julia critique les discours alarmistes et avertit sur la nécessité de « vérifier » les informations fournies par les IA dans les échanges conversationnels.

Sa position iconoclaste l’amène à affirmer que le tiers du temps, l’intelligence artificielle communique de fausses informations. Selon une expérience réalisée par l’Université de Hong Kong, sur le robot conversationnel ChatGPT de l’entreprise californienne OpenAI, l’IA montre une fiabilité relative. « Ils ont donné à l’IA des faits vérifiés, comme deux plus deux égal quatre, en lui demandant si ces faits sont vrais ou faux », présente l’informaticien. « En proportion, l’IA a indiqué que 64 % des éléments fournis étaient vrais contre 36 % de faux. Ces IA disent n’importe quoi ».

De plus, Luc Julia affirme que la pertinence des intelligences artificielles tend à diminuer : « Selon un rapport fourni par OpenAI, la pertinence des réponses de ChatGPT diminue de 2 % chaque année car on y insère de mauvaises données ».

« Les enseignants ont très peur que les jeunes deviennent idiots avec l’IA »

Dès lors, ce manque de justesse dans les réponses impacte très directement les plus jeunes pour qui, l’utilisation de l’intelligence artificielle, devient un réflexe de plus en plus évident. « Les enseignants ont très peur que les jeunes deviennent idiots avec l’IA », reconnaît Luc Julia qui intervient régulièrement dans les classes pour éduquer à l’utilisation de l’IA. « Je donne souvent comme exercice aux élèves de générer une biographie de Victor Hugo de deux pages. Ensuite, je leur demande de vérifier les informations communiquées avec d’autres sources ». En général, la biographie générée par l’IA comporte de nombreuses contre-vérités. « C’est ici que l’enseignant intervient en se posant comme le référent qui va venir corriger les éléments. Cela permet de montrer que l’on ne peut pas faire entièrement confiance aux intelligences artificielles, mais qu’il est nécessaire d’effectuer une vérification ».

Selon l’informaticien, l’intelligence artificielle peut s’avérer être un véritable outil qui permette de gagner en qualité à condition qu’elle soit « corrigée » en fonction des compétences de chacun. « C’est de cette manière que l’on progresse », conclu-t-il devant les sénateurs conquis.

Partager cet article

Dans la même thématique

Intelligences artificielles : « On ne peut pas leur faire confiance », prévient le concepteur de l’assistant vocal Siri
7min

Société

« Ce n’est pas une crise passagère ! » : les démographes alertent sur la rupture historique de la natalité

Pour la première fois depuis 1945, la France enregistre plus de décès que de naissances. Auditionnés par la commission des affaires sociales du Sénat, les démographes de l’Ined et de l’Insee ont décrit une baisse durable, générale et profondément sociétale de la fécondité, loin des seuls effets économiques ou des politiques natalistes.

Le

Intelligences artificielles : « On ne peut pas leur faire confiance », prévient le concepteur de l’assistant vocal Siri
6min

Société

Réinsertion : la prison remplit-elle encore sa mission ?

En France, environ 90 000 détenus sortent chaque année de prison. Leur réinsertion devient alors un enjeu majeur pour notre société. Mais à l'heure où près de deux détenus sur 3 récidivent 5 ans après leur libération, la sénatrice centriste Dominique Vérien, co-autrice d'un rapport sur l'exécution des peines, souhaite redonner du sens aux sanctions pénales. Développement des aménagements de peine et des alternatives à l’incarcération, les pistes sont nombreuses… Dans le cadre d’un documentaire, Public Sénat fait le portrait de détenus et d’ex-détenus qui tentent de se reconstruire une vie après la prison.

Le

Intelligences artificielles : « On ne peut pas leur faire confiance », prévient le concepteur de l’assistant vocal Siri
3min

Société

« Pour certains c’est trop dur de se dire que s’il y a des femmes violentées, c’est qu’il y a des hommes violents », s’interroge Ghada Hatem

Il y a 10 ans maintenant Ghada Hatem médecin gynécologue fondait la première maison des femmes à Saint-Denis. Un lieu pour soigner les femmes victimes de violences psychologiques ou sexuelles. 10 ans après, le modèle a essaimé partout en France. Mais que pense-t-elle de la hausse des féminicides et du retour de discours masculinistes qui séduisent de plus en plus de jeunes hommes ? Ghada Hatem répond à toutes les questions de Rebecca Fitoussi dans l’émission « Un monde, un regard ».

Le