Intelligence artificielle : les terroristes comptent sur la technologie pour prospérer

« La lutte contre le terrorisme à l’ère de l’intelligence artificielle ». C’est ce sur ce thème que la sénatrice Nathalie Goulet organisait une conférence ce lundi 14 avril au Sénat avec des spécialistes de l’intelligence artificielle et de la lutte contre le terrorisme. Étaient notamment présents Priyank Mathur, fondateur d’une société de lutte contre le terrorisme grâce à l’IA, Jean-Marc Rickli, chercheur au Centre de politique de sécurité (CGSP) de Genève, Serge Stroobants, directeur Europe de l’Institut pour l’économie et la paix ou encore Wael Saleh, professeur associé en études religieuses à l’université du Québec et conseiller de TRENDS Research & Advisory, un institut de recherche émirati. Ils ont abordé la question de l’utilisation de l’intelligence artificielle par les groupes terroristes et par le contre-terrorisme.

Désinformation et rapidité de diffusion

Le premier sujet selon la sénatrice Nathalie Goulet est « la rapidité avec laquelle l’information et la désinformation circulent », permettant une déstabilisation des États et une diffusion de la propagande terroriste à très grande échelle sur les réseaux sociaux et internet. Sont notamment mis en cause les « deepfakes », ces photos ou vidéos créées à partir de l’intelligence artificielle, qui permettent de « passer n’importe quel message » et de « l’imputer à n’importe qui ». L’objectif est de « saper la confiance des citoyens à l’égard des autorités et des pouvoirs publics » et de « ronger le tissu social des États » selon le docteur Wael Saleh qui s’intéresse aux stratégies numériques des Frères musulmans.

Le chercheur pointe également la création de centaines de milliers de faux comptes sur les réseaux sociaux afin de diffuser de manière rapide et efficace ces faux créés à partir de l’intelligence artificielle. Ces groupes arrivent ainsi à « inonder des forums » ou à « créer des campagnes virales sur les réseaux sociaux ». Ils se servent aussi d’outils d’IA en libre accès sur internet afin d’adapter leurs messages en fonction de la zone du monde qu’ils souhaitent cibler.

« Une utilisation polymorphe de l’intelligence artificielle »

Au-delà de cette guerre informationnelle, l’intelligence artificielle permet aussi la conception de systèmes de défense et d’armement plus efficaces, ainsi qu’un financement plus rapide et discret des groupes terroristes.

La conférence a été l’occasion d’aborder la place de l’intelligence artificielle dans l’amélioration des capacités militaires terroristes et anti-terroristes. Les drones de combat sont par exemple « plus performants lorsqu’ils sont équipés de système d’intelligence artificielle » car cela permet une meilleure réactivité de ces engins en vol. La technologie permet aussi la création de plans d’armes imprimables en 3D, facilitant l’armement et les actions terroristes.

Au niveau financier, l’IA permet un financement plus efficace des réseaux criminels par des flux financiers, notamment de cryptoactifs, beaucoup plus rapides et moins traçables pour les services de police compétents.

L’intelligence artificielle comme outil au service du contre-terrorisme

C’est un exemple récent qui montre l’incidence que peut avoir l’intelligence artificielle dans la lutte contre le terrorisme. Le 26 février 2024, Daniela Klette, ancienne membre de la Fraction armée rouge en Allemagne, a été arrêtée par la police grâce à un logiciel d’intelligence artificielle qui a réussi à la retrouver après plus de trente ans de cavale.

L’un des intervenants de la conférence, Priyank Mathur, a lui créé un système d’intelligence artificielle de « déradicalisation ». Il développe une technologie d’échanges basée sur le langage ELIZA, un programme informatique de conversation entre un système d’intelligence artificielle et une personne. Il s’est rendu compte que les personnes radicalisées avaient tendance à préférer parler à une IA, car « elles ne se sentent pas jugées ». Selon Nathalie Goulet, les échanges générés sont aujourd’hui « de plus en plus proches d’une conversation humaine ». La société Mythos Labs développe aussi des outils permettant de détecter automatiquement des messages à caractère terroriste sur internet, et d’y répondre par des contre-discours ciblés.

Bientôt une réponse réglementaire à l’utilisation malveillante de l’IA ?

Interrogée par Public Sénat sur une potentielle réponse législative à ces phénomènes d’utilisation de l’intelligence artificielle à des fins terroristes, la sénatrice centriste Nathalie Goulet pense qu’une réglementation est vaine. « On ne peut pas vraiment réguler l’IA. Il faut se mobiliser pour former les gens et pour être le plus indépendant et le plus souverain possible » a-t-elle expliqué. La parlementaire considère qu’une utilisation de l’intelligence artificielle est « inéluctable » et qu’il est urgent « de former à ces métiers » pour être en capacité de répondre à cette utilisation malveillante qu’elle juge « totalement diabolique ». Elle insiste enfin sur le fait que ces systèmes d’intelligence artificielle sont étrangers, « une question de souveraineté manifeste » selon elle.