Désinformation, reconnaissance faciale… Que prévoit la règlementation européenne sur l’IA ?

Emmanuel Macron en boîte de nuit, déguisé en MacGyver ou interprétant un titre de la chanteuse Angèle… Avant l’ouverture du sommet sur l’intelligence artificielle à Paris, le président de la République a publié ce week-end une vidéo humoristique à partir des deepfakes qui circulent sur les réseaux sociaux à son sujet.

Parfois amusantes, ces vidéos – qui utilisent le visage et le son de la voix d’une personnalité pour lui faire dire ou faire n’importe quoi via une intelligence artificielle – sont surtout utilisées à des fins malveillantes, dans des contenus pornographiques, ou pour véhiculer de fausses informations. Des usages très controversés de l’IA que l’Union européenne entend bien règlementer, avec l’adoption de l’IA Act.

Interdiction des usages « inacceptables »

Les premières mesures de ce règlement européen, entrées en application le 2 février, ne concernent que les usages les plus contestés de l’intelligence artificielle, qui font peser un « risque inacceptable » sur les droits humains. L’IA Act interdit ainsi l’utilisation de logiciels de « notation sociale », à l’image de ceux utilisés en Chine, et de « police prédictive individuelle », des outils visant à profiler les individus pour évaluer leur propension à commettre des infractions.

Le règlement européen interdit également l’utilisation de systèmes de reconnaissance faciale en temps réel, à l’image des caméras de vidéosurveillance directement connectées à des bases de données pour identifier des individus. Les forces de l’ordre sont tout de même autorisées à utiliser ces outils dans le cadre de la recherche d’un enfant disparu, ou bien pour localiser un suspect dans des affaires de terrorisme, de pédopornographie ou de trafic d’êtres humains.

Une obligation de transparence qui fait débat

Si cette interdiction des usages malveillants de l’intelligence artificielle fait peu débat, les autres mesures de l’IA Act sont un peu plus controversées. À partir d’août prochain, les modèles d’IA à « usage général » – les outils de génération de texte ou d’images qui utilisent une grande quantité de données – devront fournir un « résumé suffisamment détaillé » des contenus utilisés pour entrainer leur modèle.

Une mesure qui oppose le secteur de l’IA, invoquant le « secret des affaires », au monde des médias et de la culture, qui souhaite savoir si les œuvres et articles sont utilisés sans compensation pour entrainer des intelligences artificielles. En cas de non-respect de la règlementation, les amendes peuvent être salées : jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires.

Avant de ratifier l’IA Act début février, la France a longtemps poussé pour assouplir les contraintes de transparence imposées au secteur. L’Elysée et Bercy ont ainsi trouvé un compromis avec Bruxelles, pour limiter la diffusion du résumé des données d’entrainement à un « tiers de confiance », probablement le Bureau européen de l’IA, lui aussi mis en place par l’IA Act.

Une coalition d’entreprises pour « un cadre règlementaire drastiquement simplifié »

Malgré l’entrée en vigueur du règlement européen, les acteurs du secteur continuent de plaider pour un assouplissement des règles. En marge du sommet de Paris sur l’IA, ce 10 février, une soixantaine d’entreprises – des grands groupes comme Airbus et L’Oréal, mais aussi des start-up comme Mistral AI – ont lancé une coalition visant à faire de l’Europe un « leader mondial » de l’IA. L’alliance, baptisée « EU AI Champions initiative », doit être présentée à Emmanuel Macron et à la présidente de la Commission européenne Ursula von der Leyen dès ce lundi, à l’Elysée.

Dans un communiqué, la coalition indique ouvertement sa volonté d’ouvrir le dialogue avec Bruxelles pour « créer un cadre règlementaire drastiquement simplifié » en matière d’intelligence artificielle. « Nous n’avons pas été aidés par le focus un peu long sur la régulation, mais il y a désormais une prise de conscience en Europe : si toutes les start-up travaillent main dans la main, nous pouvons être un leader », défend de son côté le fondateur de Mistral AI, Arthur Mensch, dans un entretien au Parisien.

Au Sénat, la question de la règlementation de l’IA a récemment fait l’objet d’une table ronde, organisée par la commission des affaires européennes à la fin du mois de janvier. Co-auteur d’un rapport sur l’intelligence artificielle et les droits humains, l’ancien eurodéputé Jean-Marie Cavada met en garde sur la nécessité de mettre en œuvre des règlementations solides, face à des « grands monopoles technologiques en mesure de tenir tête aux Etats et de ne plus leur obéir ». Second auteur du rapport, le secrétaire général de l’Institut de la souveraineté numérique Bernard Benhamou appelle quant à lui à « en finir avec l’obsession de la régulation », au risque d’aller vers « l’agonie européenne ». Entre dérégulation et interventionnisme, le développement de l’IA n’a donc pas fini de faire débat.