Régulation des contenus : « Ce qui est interdit hors ligne est interdit en ligne »

« Le monde souffre d’une épidémie d’homosexualité » : tels sont les propos tenus par l’influenceur d’extrême droite Ismaïl Ouslimani, connu sous le pseudonyme de « Raptor ». Son podcast « 10 000 pas », qu’il anime et qui est diffusé sur plusieurs grandes plateformes de streaming, s’est rapidement imposé au cœur des discussions en février dernier au Sénat. Visé pour des propos sexistes, racistes et homophobes, il fait l’objet d’une instruction de l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom). Pour la présidente de la délégation aux droits des femmes, Dominique Vérien, cette affaire « illustre très concrètement les défis auxquels la régulation est aujourd’hui confrontée » : la circulation massive de contenus clivants, leur accessibilité aux plus jeunes, ainsi que les « limites persistantes des outils juridiques existants lorsque ces contenus ne relèvent pas des formats audiovisuels traditionnellement régulés ». C’est dans ce contexte que la délégation a organisé une table ronde intitulée « Plateformes, haine en ligne : quelle régulation de l’Arcom ? », alors qu’elle conduit parallèlement deux missions d’information : l’une consacrée aux femmes et au jeu vidéo, l’autre à la montée des réseaux et mouvements masculinistes . Devant les sénatrices, Laurence Pécaut-Rivolier a dressé le constat d’une régulation « en construction », à la fois contrainte par le droit européen et par la nature même des plateformes numériques.

« Ce qui n’est pas interdit est possible. » »

« La question de la régulation des réseaux sociaux, cet espace incroyable de liberté, mais en même temps véhicule de haine en ligne, est un enjeu fondamental », a-t-elle déclaré. La maxime souvent invoquée : « Ce qui est interdit hors ligne est interdit en ligne » ne suffit pas, selon elle. « Au contraire, c’est que ce qui n’est pas interdit est possible. » Or, dans les domaines du sexisme et du masculinisme, la difficulté tient précisément à cette « zone grise » : des propos qui ne sont pas, isolément, manifestement illicites, mais qui le deviennent replacés dans un contexte ou une stratégie d’ensemble. Les auditions menées par la délégation ont documenté des phénomènes de cyberharcèlement de masse, visant notamment des femmes ayant dénoncé des comportements sexistes.  Insultes, menaces, harcèlement coordonné : pour Dominique Vérien, les logiques algorithmiques d’amplification, structurées par l’économie de l’attention, favorisent les contenus les plus polarisants. « Le constat que nous faisons est celui d’une effectivité insuffisante des règles de droit face à une impunité en ligne qui reste trop souvent la règle. »

Le parti européeen

Pour Laurence Pécaut-Rivolier, le recours au cadre européen était « le seul réaliste ». Le règlement sur les services numériques (DSA) impose aux grandes plateformes des obligations de transparence et d’évaluation des risques systémiques. Mais il repose sur le principe du pays d’origine : « le régulateur compétent est celui de l’État membre où la plateforme est établie ». « La France n’est pas celle qui peut intervenir le plus directement », reconnaît-elle. L’Arcom peut agir pour les acteurs installés sur le territoire national ou transmettre des rapports de manquement à ses homologues européens. Elle a également désigné huit « signaleurs de confiance », chargés d’identifier les contenus manifestement illicites et d’en exiger le retrait. Mais « la question des moyens » demeure.

« Une instruction extrêmement compliquée »

Le dossier « 10 000 pas » révèle ces limites. « Juridiquement, c’est une instruction extrêmement compliquée », explique la conseillère. L’Arcom ne peut intervenir directement sur un podcast : celui-ci ne relève pas du régime des services audiovisuels. En revanche, le régulateur examine la responsabilité éventuelle des plateformes de diffusion, telles que Spotify, Deezer ou Apple. L’enjeu est de déterminer si elles peuvent être qualifiées de plateformes en ligne au sens du DSA et si elles ont respecté leurs obligations en matière de gestion des risques.

Des moyens limités face à « l’océan »

L’Arcom, insiste sa représentante, ne peut agir contenu par contenu. Elle mise sur une régulation systémique avec un contrôle des rapports de transparence, une analyse des mécanismes algorithmiques, une coordination avec le parquet spécialisé et les services d’enquête, ainsi qu’un futur agrément de chercheurs pour accéder aux données des plateformes. Mais la tâche reste immense. « Nous vidons l’océan à la petite cuillère », admet Laurence Pécaut-Rivolier. Si elle observe une évolution des mentalités, « nous ne sommes plus dans l’idée qu’en ligne on peut tout dire », elle reconnaît aussi que la coopération des plateformes n’est plus aussi fluide qu’à l’origine. Elle évoque notamment « un vrai sujet » avec la plateforme X. Néanmoins, elle tient à souligner une dynamique positive. « Nous avons l’impression que tout ce qui est fait, que tous vos travaux, que tout ce que nous mettons en œuvre dans nos méthodes d’action a un impact très fort sur les mentalités. (…) Tout cela porte ses fruits. Nous n’en avons peut-être pas l’impression immédiate, mais ces efforts produisent des effets réels. »

La délégation attend désormais, le 12 mars, la publication de l’étude de l’Arcom sur les propos sexistes et masculinistes en ligne. Ses propres rapports sur le jeu vidéo et le masculinisme sont attendus en juin.