La difficile modération de la haine en ligne
Le 16 octobre le professeur d’histoire Samuel Paty est assassiné à Conflans-Sainte-Honorine. Rapidement les réseaux sociaux se retrouvent sur le banc des accusés. On leur reproche de propager la haine et d’avoir fait de l’enseignant une cible pour les terroristes. Mais si les propos en ligne à son encontre avaient été repérés plus tôt, aurait-on pu les faire supprimer ? C’est à cette question qu’Hélène Risser et ses invités tentent de répondre sur le plateau de l’émission Hashtag. 

La difficile modération de la haine en ligne

Le 16 octobre le professeur d’histoire Samuel Paty est assassiné à Conflans-Sainte-Honorine. Rapidement les réseaux sociaux se retrouvent sur le banc des accusés. On leur reproche de propager la haine et d’avoir fait de l’enseignant une cible pour les terroristes. Mais si les propos en ligne à son encontre avaient été repérés plus tôt, aurait-on pu les faire supprimer ? C’est à cette question qu’Hélène Risser et ses invités tentent de répondre sur le plateau de l’émission Hashtag. 
Public Sénat

Par Quentin Poirier

Temps de lecture :

4 min

Publié le

Mis à jour le

Le 7 octobre Brahim C. parent d’une élève du collège à Conflans-Sainte-Honorine accuse Samuel Paty dans plusieurs publications sur Facebook d’avoir montré des « images nues du prophète », il s’agit en réalité de caricatures de Charlie Hebdo. Puis le lendemain dans une vidéo publiée sur le même réseau social il demande la démission du professeur.

Pour Jean-Marc Royer Président et fondateur de Netino : « Malheureusement ces messages n’auraient pas été retirés s’ils avaient été soumis à nos équipes. Parce que finalement les propos de ce père de famille sont relativement modérés. Il est offusqué, il est pas content c’est clair, mais il ne dit rien d’illégal, il ne fait pas d’appel à la violence, pas d’appel au meurtre ». Le problème n’est pas alors dans le message en lui-même, mais dans les internautes qui vont ensuite le relayer et surenchérir avec des propos plus violents que ceux portés dans le message d’origine. 

Quand le virtuel s’immisce dans le réel

Si dans ses posts, Brahim C ne donne pas explicitement l’adresse de l’enseignant, il propose tout de même de la fournir par message privé aux internautes qui le souhaitent. Ilana Soskin avocate à la Licra analyse : « Pour moi proposer de donner l’adresse de quelqu’un, c’est qu’on passe au monde réel et on sort du monde virtuel. […] À partir du moment où quelqu’un vous dit, j’ai son adresse, il y a quelque chose de matériel qui en découle ». Il faut donc avoir une vigilance quand des éléments de la vie privée tombent dans les mains dinternautes mal intentionnés.

L’avocate insiste : « Qu’est-ce que va faire la personne une fois qu’elle a son adresse ? Elle ne va pas aller lui dire, je ne suis pas d’accord avec vous. Donc moi ce professeur serait venu me voir, j’aurais tout de même demandé à ce que l’on retire les messages, peut être que l’on suspende le profil de cette personne qui a votre adresse. J’aurais eu une vigilance par la réitération et par le fait qu’il ait son adresse et qu’il souhaite la communiquer ». 

Jean-Marc Royer rappelle : « Un modérateur doit prendre une décision pour savoir si un texte est acceptable ou non en quelques secondes. Donc forcément il faut être assez rodé et efficace. Et souvent ces propos sont ambigus. Ça veut dire que des propos clairement à retirer c’est facile, mais souvent les internautes s’expriment en sous-entendu, voire mal. On a de la difficulté à comprendre ce qu’ils veulent dire ». 

Déceler la haine dans la masse

Pourtant fin juillet la LICRA fait supprimer un tweet posté par le compte Twitter de l’assassin de Samuel Paty. Ilana Soskin raconte : « La LICRA n’a pas eu un suivi postérieur sur ce profil. Elle a reçu ce tweet qui était antisémite donc elle a décidé de le signaler à Twitter qui l’a supprimé. Il y a des milliers de tweets que la LICRA signale. Donc la LICRA ne peut pas suivre les comptes de tout le monde. Parce qu’il faudrait 300 personnes à la LICRA pour attaquer et pour suivre toutes ces personnes ». Même si ici il n’y a pas eu de sanction à l’encontre de l’internaute, supprimer rapidement son message évite que ce dernier ne se propage et prenne de l’ampleur.

Face à la masse de messages haineux que doivent traiter les associations, Jean-Marc Royer dresse le constat suivant : «Quand il faut traiter des milliers de messages aucune association, aucun organisme d’État ne peut les traiter à la main un par un. Et donc la seule solution pour faire évoluer les choses, c’est de passer à un système automatique et rapide pour agir ».

Partager cet article

Dans la même thématique

La difficile modération de la haine en ligne
4min

Politique

Jeux vidéo : chez Ubisoft, les dirigeants prônent désormais la « tolérance zéro » vis-à-vis des comportements toxiques

Dans la poursuite de leurs travaux sur les jeux vidéo, la délégation aux droits des femmes du Sénat auditionnait, ce jeudi, les représentants du géant Français, Ubisoft. Une entreprise marquée par la vague Metoo en 2020 avec des révélations sur des comportements toxiques au plus haut niveau. Depuis, de nombreuses mesures ont été prises pour faire de la lutte contre le harcèlement « une priorité fondamentale » de l’entreprise, assure Cécile Russeil, vice-présidente exécutive.

Le

FRA: Exercice Orion 26 Armee de l Air
9min

Politique

« Signal très mitigé », « pas de vision globale » : l’actualisation de la loi de programmation militaire laisse les sénateurs sur leur faim

Avec 36 milliards d’euros supplémentaires d’ici 2030, l’actualisation de la LPM portera la hausse du budget des armées à 449 milliards d’euros sur la période 2024/2030. « Ça va dans le bon sens, car c’est une nécessité absolue dans la période qu’on traverse », salue le président LR de la commission des affaires étrangères et de la défense du Sénat, Cédric Perrin. Mais il juge l’effort « frustrant », car « on n’augmente pas notre capacité ».

Le

FRA – RN VOTE BARDELLA MUNICIPALES 2EME TOUR
6min

Politique

Jordan Bardella dans Paris Match avec la princesse Maria-Carolina de Bourbon des Deux- Siciles : « Est-ce que les Français vont acheter l’histoire du conte de fées » ?

A la Une de Paris Match, le président du RN, Jordan Bardella a officialisé sa relation amoureuse avec la princesse Maria-Carolina de Bourbon des Deux-Siciles, une figure de la Jet-Set européenne. Pour Philippe Moreau Chevrolet, expert en communication politique et enseignant à Sciences Po Paris, le patron du Rassemblement national signe, avec cette couverture, « son entrée en campagne » pour la présidentielle de 2027. Mais l’opération de com n’est pas sans risque pour son image. Interview.

Le

Paris: The senate vote on an amendment of a government plan to enshrine the « freedom » to have an abortion in the French Constitution
10min

Politique

« Ce n’est pas non plus le Soviet suprême ! » : au groupe PS du Sénat, la présidence de Patrick Kanner suscite convoitises et crispations

Les sénateurs du groupe PS du Sénat ont modifié leur règlement intérieur. Patrick Kanner, à la tête du groupe, était menacé en cas d’adoption du principe de non-cumul dans le temps, proposition finalement rejetée. Mais l’ancien ministre, qui pourra se représenter en octobre prochain, après les sénatoriales, se retrouve contesté en interne.

Le