Le Sénat s’oppose au gouvernement sur le secret des algorithmes

Calcul de l’Impôt ou des allocations familiales, gestions des dossiers Pôle emploi, ou plus évidemment orientation post-bac avec Parcoursup, les algorithmes sont aujourd’hui présents dans tous les aspects de la vie publique et de la relation entre l’administration et le citoyen. En ce sens, le Sénat souhaite renforcer la transparence relative à leur utilisation. Une position que le gouvernement est loin de partager.

Un risque de nullité de la décision

Comme relevé par le site spécialisé Next Impact, la commission des lois du Sénat a adopté, mercredi 14 mars, un amendement en forme d’avertissement au gouvernement. En vertu de la loi numérique de 2016, les administrations doivent faire mention explicite de l’utilisation d’un algorithme dans une décision les concernant. Problème, de nombreuses administrations ne sont pas en conformité et la mention en question reste introuvable.

Avec cet amendement déposé par la rapporteure UDI du texte, Sophie Joissains, et adopté en commission, le Sénat entend rendre nulle toute décision prise par une administration qui n’aurait pas affiché la fameuse mention explicite. Rien de moins ! En outre, il s’agit aussi de laisser l’opportunité au citoyen de faire la demande des caractéristiques de l’algorithme mis en oeuvre.

Une mesure disproportionnée pour le gouvernement

Sans surprise, le gouvernement n’est pas de l’avis du Sénat. En déposant un amendement de suppression, l'exécutif entend dénoncer une mesure disproportionnée « Si le gouvernement partage pleinement l’objectif du Sénat, il n’est pas favorable à ce que l’absence de mention dans la décision conduise immédiatement à la nullité de cette dernière, ce qui serait disproportionné. »

En outre, preuve que le sujet est transpartisan, les sénateurs socialistes ont eux aussi déposé un amendement, qui sera examiné en séance, visant à rendre consultable à tout moment l’ensemble des algorithmes, et non  plus uniquement sur demande.

Le cas de Parcoursup

Autre aspect visé par cet amendement de Sophie Joissains, la plateforme d’orientation Parcoursup. En effet, la sénatrice dénonce une plateforme publique faisant figure d’exception, avec une grande opacité sur les critères de sélections qui font loi dans l’orientation des lycéens. « Le problème avec Parcoursup, c’est que sous couvert de secret des délibérations, les étudiants ne pourront avoir accès aux critères qui ont permis de déterminer s’ils pouvaient rentrer dans tel ou tel établissement supérieur. Nous, nous disons que les étudiants ont besoin de transparence. Il y a en outre une vertu pédagogique à connaître les raisons d’un refus. »

Le secrétaire d’État au numérique, Mounir Mahjoubi, lui, se défend de tout manque de transparence sur le fonctionnement de Parcoursup : « Sur les algorithmes, il a toujours été dit qu’il y aurait une transparence. Par  contre, il y a une décision qui est faite à partir des recommandations de l’algorithme et d’un jury souverain, et la règle absolue, c’est la souveraineté des décisions de jury. Parcoursup ce n’est pas que des algorithmes, ce sont aussi des humains, qui vont prendre des décisions. »