Régulation des contenus : « Ce qui est interdit hors ligne est interdit en ligne »

Auditionnée par la délégation aux droits des femmes du Sénat, la conseillère de l’Arcom a détaillé les marges de manœuvre limitées du régulateur face à la montée des contenus sexistes et masculinistes en ligne. L’instruction en cours visant le podcast « 10 000 pas », diffusé sur plusieurs plateformes de streaming, illustre les angles morts juridiques et les tensions entre cadre national et régulation européenne.
Emma Bador-Fritche

Temps de lecture :

5 min

Publié le

Mis à jour le

« Le monde souffre d’une épidémie d’homosexualité » : tels sont les propos tenus par l’influenceur d’extrême droite Ismaïl Ouslimani, connu sous le pseudonyme de « Raptor ». Son podcast « 10 000 pas », qu’il anime et qui est diffusé sur plusieurs grandes plateformes de streaming, s’est rapidement imposé au cœur des discussions en février dernier au Sénat. Visé pour des propos sexistes, racistes et homophobes, il fait l’objet d’une instruction de l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom). Pour la présidente de la délégation aux droits des femmes, Dominique Vérien, cette affaire « illustre très concrètement les défis auxquels la régulation est aujourd’hui confrontée » : la circulation massive de contenus clivants, leur accessibilité aux plus jeunes, ainsi que les « limites persistantes des outils juridiques existants lorsque ces contenus ne relèvent pas des formats audiovisuels traditionnellement régulés ». C’est dans ce contexte que la délégation a organisé une table ronde intitulée « Plateformes, haine en ligne : quelle régulation de l’Arcom ? », alors qu’elle conduit parallèlement deux missions d’information : l’une consacrée aux femmes et au jeu vidéo, l’autre à la montée des réseaux et mouvements masculinistes . Devant les sénatrices, Laurence Pécaut-Rivolier a dressé le constat d’une régulation « en construction », à la fois contrainte par le droit européen et par la nature même des plateformes numériques.

« Ce qui n’est pas interdit est possible. » »

« La question de la régulation des réseaux sociaux, cet espace incroyable de liberté, mais en même temps véhicule de haine en ligne, est un enjeu fondamental », a-t-elle déclaré. La maxime souvent invoquée : « Ce qui est interdit hors ligne est interdit en ligne » ne suffit pas, selon elle. « Au contraire, c’est que ce qui n’est pas interdit est possible. » Or, dans les domaines du sexisme et du masculinisme, la difficulté tient précisément à cette « zone grise » : des propos qui ne sont pas, isolément, manifestement illicites, mais qui le deviennent replacés dans un contexte ou une stratégie d’ensemble. Les auditions menées par la délégation ont documenté des phénomènes de cyberharcèlement de masse, visant notamment des femmes ayant dénoncé des comportements sexistes.  Insultes, menaces, harcèlement coordonné : pour Dominique Vérien, les logiques algorithmiques d’amplification, structurées par l’économie de l’attention, favorisent les contenus les plus polarisants. « Le constat que nous faisons est celui d’une effectivité insuffisante des règles de droit face à une impunité en ligne qui reste trop souvent la règle. »

Le parti européeen

Pour Laurence Pécaut-Rivolier, le recours au cadre européen était « le seul réaliste ». Le règlement sur les services numériques (DSA) impose aux grandes plateformes des obligations de transparence et d’évaluation des risques systémiques. Mais il repose sur le principe du pays d’origine : « le régulateur compétent est celui de l’État membre où la plateforme est établie ». « La France n’est pas celle qui peut intervenir le plus directement », reconnaît-elle. L’Arcom peut agir pour les acteurs installés sur le territoire national ou transmettre des rapports de manquement à ses homologues européens. Elle a également désigné huit « signaleurs de confiance », chargés d’identifier les contenus manifestement illicites et d’en exiger le retrait. Mais « la question des moyens » demeure.

« Une instruction extrêmement compliquée »

Le dossier « 10 000 pas » révèle ces limites. « Juridiquement, c’est une instruction extrêmement compliquée », explique la conseillère. L’Arcom ne peut intervenir directement sur un podcast : celui-ci ne relève pas du régime des services audiovisuels. En revanche, le régulateur examine la responsabilité éventuelle des plateformes de diffusion, telles que Spotify, Deezer ou Apple. L’enjeu est de déterminer si elles peuvent être qualifiées de plateformes en ligne au sens du DSA et si elles ont respecté leurs obligations en matière de gestion des risques.

Des moyens limités face à « l’océan »

L’Arcom, insiste sa représentante, ne peut agir contenu par contenu. Elle mise sur une régulation systémique avec un contrôle des rapports de transparence, une analyse des mécanismes algorithmiques, une coordination avec le parquet spécialisé et les services d’enquête, ainsi qu’un futur agrément de chercheurs pour accéder aux données des plateformes. Mais la tâche reste immense. « Nous vidons l’océan à la petite cuillère », admet Laurence Pécaut-Rivolier. Si elle observe une évolution des mentalités, « nous ne sommes plus dans l’idée qu’en ligne on peut tout dire », elle reconnaît aussi que la coopération des plateformes n’est plus aussi fluide qu’à l’origine. Elle évoque notamment « un vrai sujet » avec la plateforme X. Néanmoins, elle tient à souligner une dynamique positive. « Nous avons l’impression que tout ce qui est fait, que tous vos travaux, que tout ce que nous mettons en œuvre dans nos méthodes d’action a un impact très fort sur les mentalités. (…) Tout cela porte ses fruits. Nous n’en avons peut-être pas l’impression immédiate, mais ces efforts produisent des effets réels. »

 

Partager cet article

Dans la même thématique

FRA – SENAT – PROJET LOI PROTECTION ENFANTS
10min

Parlementaire

Protection de l’enfance : imprescriptibilité, contrôle d’honorabilité… Que contient le projet de loi adopté et modifié par le Sénat ?

Le Sénat a adopté à la quasi-unanimité le projet de loi relatif à la protection des enfants. Imprescriptibilité des crimes sexuels sur mineurs rétablie, ordonnance de sûreté de l'enfant, contrôle d'honorabilité renforcé… Les sénateurs ont modifié le texte marquant à plusieurs reprises leurs désaccords avec le gouvernement. Tour d’horizon des différents points du projet de loi et de ses modifications.

Le

Régulation des contenus : « Ce qui est interdit hors ligne est interdit en ligne »
6min

Parlementaire

Périscolaire : le Sénat étend et renforce le « contrôle d’honorabilité » à l’ensemble des personnels aux contacts de mineurs

Le Sénat, qui examine le projet de loi sur la protection de l’enfance, a adopté ce jeudi 29 octobre un régime global de contrôle des antécédents judiciaires pour les personnes exerçant auprès de mineurs, qu’il s’agisse de professionnels ou de bénévoles. Ce dispositif, qui balaye de nombreux secteurs socio-professionnels, se veut notamment une réponse aux agressions constatées dans le périscolaire.

Le

Régulation des contenus : « Ce qui est interdit hors ligne est interdit en ligne »
7min

Parlementaire

Protection de l’enfance : le Sénat rétablit l’imprescriptibilité des crimes sexuels sur mineurs 

Elle avait été votée par les députés, puis écartée par la commission des lois. Mercredi 28 octobre, le Sénat a finalement rétabli l’imprescriptibilité des crimes sexuels commis sur des mineurs, par 252 voix contre 80. Les rapporteures Agnès Canayer (LR) et Dominique Vérien (UC) l’avaient supprimée au nom de « la tradition juridique », qui réserve l’imprescriptibilité aux crimes contre l’humanité. Soutenue par le gouvernement, la mesure a fini par s’imposer dans l’hémicycle, au prix d’un débat où les convictions ont évolué et où les échanges se sont tendus.

Le

Régulation des contenus : « Ce qui est interdit hors ligne est interdit en ligne »
5min

Parlementaire

Protection de l’enfance : le Sénat rétablit à une voix près l’ordonnance de sûreté de l’enfant

Le projet de loi sur la protection de l’enfance, examiné au Sénat ce mercredi 28 octobre, entend apporter des réponses à plusieurs défaillances du système de protection des mineurs, mises en lumière par des affaires récentes. Parmi les mesures débattues, l’ordonnance de sûreté de l’enfant, qui doit permettre de mettre rapidement à l’abri un mineur en danger sans attendre les conclusions de l’enquête judiciaire, a été rétablie dans la version adoptée par l’Assemblée nationale.

Le