IA : une proposition de résolution du Sénat veut « renforcer la protection accordée aux personnes »

La Commission européenne n’a pas attendu l’appel d’Elon Musk à « mettre en pause » le développement des intelligences artificielles (IA) ou l’émergence de ChatGPT pour proposer un règlement sur le sujet. Une initiative présentée en 2021 mais qui doit toujours faire l’objet de négociations fin avril avant une potentielle adoption au cours du printemps. Dans ce contexte, la commission des affaires européennes du Sénat a présenté un rapport et une proposition de résolution sur le texte européen sur l’intelligence artificielle. Une démarche visant à « renforcer la protection accordée aux personnes », selon Catherine Morin-Desailly, sénatrice Union Centriste de Seine-Maritime et co-rapporteure. Les résolutions permettent au Sénat d’exprimer sa position sur un sujet précis. Cette procédure est régulièrement utilisée sur les sujets européens pour tenter d’influencer la position du gouvernement, ou rappeler la répartition des compétences entre les Etats membres et l’Union européennes.

Dans la continuité des textes sur le numérique (Digital Markets act et Digital Services act), l’Union européenne cherche à devenir la première organisation à mettre en œuvre une réglementation générale sur l’intelligence artificielle pour en limiter les effets négatifs. A travers ces travaux, le Sénat entend donner des arguments au gouvernement dans le cadre des négociations à venir sur le texte. « À partir du moment où cette proposition de résolution est adoptée elle deviendra aussi un outil utile pour le gouvernement à brandir dans les négociations », estime Catherine Morin-Desailly.

« On a souligné que l’approche par le risque était pertinente »

Dans sa proposition, la Commission européenne entend interdire le recours aux intelligences artificielles portant atteinte aux valeurs européennes et plus spécifiquement au droit des personnes. « On a souligné que l’approche par le risque était pertinente, on a souhaité renforcer et préciser quels pouvaient être les risques inclus dans la proposition », souligne Catherine Morin-Desailly. Une approche fondée sur le risque qui établit une classification en fonction du risque représenté par l’IA. Les systèmes à « haut risque », identifiés en fonction de leur finalité et de leurs modalités d’utilisation, seraient donc soumis à des obligations importantes en amont et après la commercialisation. Ces systèmes peuvent exister dans les transports, la justice, les ressources humaines ou la santé.

Le choix des systèmes considérés comme étant à haut risque est donc déterminant, même si « la Commission pourra toujours compléter la liste par des actes délégués », rassure Catherine Morin-Desailly. La classification de la reconnaissance faciale constitue un point de clivage important dans les négociations européennes, mais aussi pour le Sénat qui préconise d’interdire plusieurs procédés de reconnaissance faciale. « On a voulu dire que tout système IA visant la reconnaissance faciale et ayant pour but d’identifier, de catégoriser des individus dans l’espace public est contraire à nos priorités », rapporte Catherine Morin-Desailly. Le texte souhaite néanmoins laisser la place à des exceptions lorsqu’il s’agit de « d’identification biométrique à distance dans l’espace public ». Une exception qui pourrait se matérialiser avec l’organisation des Jeux olympiques.

« L’Union européenne doit pouvoir développer un avantage concurrentiel en la matière »

A travers sa proposition de résolution, la commission des affaires européennes souhaite également mettre une approche pragmatique de la régulation de l’intelligence au service des négociations sur le texte au niveau européen. « L’IA doit être fiable et éthique et respecter les valeurs européennes, ces IA peuvent être une source de grands progrès mais peuvent aussi être dangereuses », considère Catherine Morin-Desailly. Pour la sénatrice, l’objectif d’un tel texte est double, d’une part protéger et d’autre part créer les conditions propices au rattrapage des entreprises européennes sur le sujet de l’IA. « Nous considérons que nous devons aussi encourager les autorités européennes à une vraie politique de la recherche », explique Catherine Morin-Desailly.

En devenant le « premier continent à proposer un règlement homogène sur l’intelligence artificielle, l’Union européenne doit pouvoir développer un avantage concurrentiel en la matière », juge Catherine Morin-Desailly. En se dotant d’un cadre normatif exigeant, l’Union européenne entend créer les conditions d’un développement de l’intelligence artificielle, débarrassé des éléments les plus dangereux pour les droits fondamentaux. « Il y a des quantités d’applications insoupçonnées qui peuvent être très efficaces pour l’environnement, la vie économique et d’autres domaines », considère Catherine Morin-Desailly. L’introduction d’obligations contraignantes pourrait néanmoins avoir l’effet inverse et ne pas faciliter l’objectif affiché de réindustrialisation.

« Il faut beaucoup plus d’exigence dans nos règlements européens sur la transparence des algorithmes »

Pour la mise en application du règlement, la proposition de résolution préconise un contrôle par la CNIL, « qui a d’ailleurs déjà entamé une réflexion importante sur l’IA », note Catherine Morin-Desailly, le tout chapeauté par un « Comité européen de l’intelligence artificielle ». A travers leur proposition de résolution, les membres de la commission des affaires européennes du Sénat souhaitent aussi encourager le législateur européen à compléter un règlement qui manque d’exhaustivité, en particulier sur les sujets connexes du droit d’auteur des données ou de la transparence des codes informatiques. « Il faut beaucoup plus d’exigence dans nos règlements européens sur la transparence des algorithmes, je plaide pour un safety by design, c’est-à-dire qu’on ne met pas sur le marché quelque chose de nouveau tant que l’on n’a pas évalué ses potentiels effets négatifs », insiste Catherine Morin-Desailly.