Intelligence artificielle et fake news, un cocktail qui fait trembler nos démocraties

L’intelligence artificielle, qui est en train de révolutionner notre rapport et nos usages du numérique, est également devenue l’outil privilégié de la désinformation en ligne. Auditionnés par la commission d’enquête du Sénat sur les influences étrangères, les journalistes Thomas Huchon et Gérald Holubowicz balayent les champs d’application et les dérives de l’IA, une avancée technologique qui ne bouscule pas seulement notre cerveau, mais aussi nos systèmes démocratiques.
Romain David

Temps de lecture :

8 min

Publié le

Mis à jour le

La commission d’enquête du Sénat sur les politiques publiques face aux opérations d’influence étrangère s’intéresse de près au rôle grandissant de l’intelligence artificielle (IA). Avec l’audition ce mardi 9 avril de deux journalistes d’investigation, Thomas Huchon, spécialiste de la désinformation, et Gérald Holubowicz, spécialiste de l’IA et enseignant à Science Po.

Avant de répondre aux questions des élus, les deux journalistes se sont prêtés à une entrée en matière plutôt inhabituelle dans ce type d’exercice, manière pour eux d’illustrer les capacités de mimétisme troublantes de l’intelligence artificielle générative.

Thomas Huchon a présenté aux sénateurs une vidéo synthétique, ou « deepfake » selon le terme couramment utilisé : un clip entièrement réalisé par une IA et dans laquelle un double numérique du journaliste prend, tour à tour, la voix de Jean-Luc Mélenchon, de Gabriel Attal, de la chanteuse Angèle… ou encore celle du président de la commission d’enquête, le sénateur LR Dominique de Legge.

« Il nous a suffi de récupérer un extrait de deux minutes d’un discours que vous aviez prononcé, et de le donner à manger à une intelligence artificielle pour lui faire dire ce que l’on veut », résume le journaliste. La manipulation n’a pris qu’un quart d’heure.

Quelques minutes plus tard, Gérald Holubowicz reproduit l’opération, cette fois avec un enregistrement sonore de la voix du rapporteur socialiste Rachid Temal : « Je suis le sénateur Rachid Temal, et je vous rappelle que je ne suis en aucun cas responsable des mots qui sont prononcés à cet instant », lâche la voix qui imite à l’identique, et devant l’intéressé, le ton grave et particulièrement identifiable du sénateur du Val-d’Oise.

Mais passé l’amusement de ce petit préambule, c’est l’effroi qui a rapidement pris place sous le plafond de la salle Médicis, face au tableau relativement sombre, brossé par les deux journalistes des usages divers et variés que permet ce type de manipulation, « dans un espace informationnel que nous n’avons pas su réguler », selon le mot de Thomas Huchon.

IA, quelle définition ?

L’intelligence artificielle ou « machine learning », désigne un logiciel « qui va apprendre de lui-même à partir d’une base de données. Si c’est du langage, il va apprendre la grammaire, si c’est de l’image, il va détecter les contours, etc.. », résume Gérald Holubowicz.

En quelques années, le volume des productions générées par l’IA a littéralement explosé, et leurs implications dépassent désormais largement la seule sphère numérique. « Les cols blancs se sentaient protégés face à l’automation de la société, finalement il n’en est rien. […] On a cru s’en préserver en basculant les bassins d’emploi vers les services, mais là aussi, c’est remplaçable par de l’intelligence artificielle », pointe Gérald Holubowicz.

Le sénateur Dominique de Legge tient néanmoins à apporter une nuance sémantique : « C’est du traitement de données qui est artificialisé, industrialisé. Dans l’opinion publique, on parle d’intelligence artificielle, ça fout la trouille car beaucoup de gens pensent qu’elle va se substituer à notre propre intelligence. Mais ce qui est rentré dans la bécane, au départ, c’est de la donnée maîtrisée par l’homme », souligne l’élu. « Ces programmes informatiques ne sont pas de l’intelligence », abonde Thomas Huchon. « Il faut plutôt parler de malignité et d’une tentative de substituer aux êtres humains et à leurs parties cognitives des machines qui vont permettre de mieux contrôler différents univers ».

Communication et manipulation

Gérald Holubowicz rappelle que le champ de l’information et de la communication s’est largement approprié l’IA, en politique notamment où elle a permis à de nombreux candidats, aux Etats-Unis et en Asie, de se démultiplier grâce aux deepfakes. « Au printemps 2022, le président de la Corée du Sud Yoon Suk-yeol, encore candidat, a utilisé l’IA pour se dédoubler et converser avec son électorat. Lui était plutôt conservateur, mal reçu chez les jeunes. Son double pouvait directement interagir avec les gens et était plus sympa que le vrai. Cela aurait eu un impact sur les moins de 30 ans. »

« L’IA à la fois utilisée par des partis officiels, des candidats ou des acteurs malveillants arrive, d’une manière ou d’une autre à influencer les populations », assure Gérald Holubowicz.

De fait, la pratique du deepfake a aussi appuyé de nombreuses dérives, susceptibles de tomber sous le coup de la loi. « Dans un premier temps, les créateurs de deepfakes ont ciblé des populations vulnérables. Une société anglaise a calculé en 2019 que 96 % des deepfakes produits étaient des contenus à caractère sexuel non consenti, qui ciblaient des femmes connues ou inconnues, souvent au cœur de chantages domestiques », pointe Gérald Holubowicz. « Les observateurs constatent l’augmentation d’un autre type d’images à caractère inquiétant : des vidéos synthétiques pédopornographiques, distribuées sur les réseaux. »

Le rôle des réseaux sociaux

Pour Thomas Huchon, l’intelligence artificielle doit d’abord être considérée comme un outil, une avancée technologique « sur laquelle il ne sera plus possible de revenir ». « C’est un outil fabriqué par des êtres humains, qui sont capables d’y mettre une partie des biais qui les caractérisent ». À ses yeux, l’IA n’est moins un problème que l’absence de régulation ou de sanction sur les détournements qu’elle rend possible.

Il pointe notamment le rôle des réseaux sociaux, qui laissent circuler, sans filtre, les contenus produits. « Accuser l’IA générative de tous les mots de la désinformation, de fake news, c’est oublier une part très importante du problème », explique-t-il. « Ce qui pose un problème fondamental, ce n’est pas tant cette nouvelle technologie que le fait que nous n’ayons pas su réguler l’espace informationnel. »

« On a créé des univers dans lesquels, sous couvert de nous laisser une liberté d’expression, en réalité on a plutôt créé les conditions d’une dictature que d’une démocratie. Un univers dans lequel on peut accuser n’importe qui de n’importe quoi, sans preuve, ce n’est pas un univers démocratique, c’est un modèle stalinien », épingle le journaliste. Et d’ajouter : « Il y a une urgence démocratique à agir sur un phénomène qui perturbe nos processus démocratiques et électoraux depuis plus de quinze ans ».

Les pistes de régulation

Thomas Huchon insiste sur la nécessité de faire rentrer les réseaux sociaux sous le joug de la loi de 1881 sur la liberté de la presse, pour ainsi leur attribuer la responsabilité des contenus diffusés. Soit le sempiternel débat sur un statut d’éditeur pour les plateformes, avec le défi technologique que représente la régulation des contenus. Pour Gérald Holubowicz, il en va aussi de la survie de la presse traditionnelle : « On va assister à une forme d’étranglement des médias. Nous allons devoir exister dans un océan de contenus IA fabriqués pour désinformer. »

Ce journaliste évoque également un « plan décennal sur l’éducation aux médias » pour aiguiser l’esprit critique des plus jeunes à ce type de problématique. « Il faut imaginer sur le temps long une intégration fine aux programmes scolaires, et que l’éducation aux médias ne soit plus seulement l’œuvre d’intervenants ponctuels dans les classes. »

Dernière piste pour limiter l’impact de la désinformation : repenser le modèle financier des plateformes, qui s’appuie très largement sur la publicité et génère du même coup de nombreux effets pervers. « Le modèle économique qui repose sur la captation de l’attention donne une prime systématique aux contenus qui retiennent le plus notre attention. Et quels sont les contenus qui captent le plus notre attention ? ceux qui contiennent le plus d’appels à la colère, ceux qui contiennent le plus d’émotion, qui vont jouer le plus sur nos indignations. Quels sont-ils ? Les fake news ! », résume Thomas Huchon.

Dans la même thématique

Current affairs question session with the government – Politics
5min

Société

Violences intrafamiliales : les députés et les sénateurs se mettent d’accord sur une proposition de loi sur les ordonnances de protection provisoire

Le 21 mai, 7 députés et 7 sénateurs se sont réunis en commission mixte paritaire pour examiner une proposition de loi, déposée par la députée Renaissance Emilie Chandler le 5 décembre dernier, renforçant l’ordonnance de protection provisoire et créant une ordonnance provisoire de protection immédiate. Une commission mixte paritaire conclusive qui a adopté le texte à l’unanimité : « Tout le monde est d’accord pour aller plus loin dans la protection, personne ne peut se satisfaire des femmes tuées en France », affirme Dominique Vérien, rapporteure du texte au Sénat.

Le

Lea, au premier jour de sa Vie
5min

Société

Périnatalité : « Infantiliser les femmes ne mène à rien de bon » selon la journaliste Renée Greusard

Le 14 mai dernier, la mission d’information sur l’avenir de la périnatalité auditionnait quatre journalistes spécialistes des questions de grossesse et de parentalité. Une audition qui a permis d’évoquer la question de la santé mentale durant le post-partum, l’information qui est faite autour et l’insuffisance des moyens alloués aux maternités.

Le

Paris : International women s rights day
4min

Société

#Metoo : 150 personnalités réclament une « loi intégrale contre les violences sexuelles »

Ce mardi, Le Monde publie la tribune de près de 150 personnalités, notamment des actrices, appellent à la mise en place d’un ambitieux plan de lutte contre les violences sexuelles et sexistes. Un appel lancé alors qu’Emmanuel Macron a ouvert la voie à une évolution de la définition juridique du viol, pour y intégrer la notion de consentement. La présidente de la délégation sénatoriale aux droits des femmes réclame de son côté une meilleure formation de la police et de la justice.

Le