La difficile modération de la haine en ligne

La difficile modération de la haine en ligne

Le 16 octobre le professeur d’histoire Samuel Paty est assassiné à Conflans-Sainte-Honorine. Rapidement les réseaux sociaux se retrouvent sur le banc des accusés. On leur reproche de propager la haine et d’avoir fait de l’enseignant une cible pour les terroristes. Mais si les propos en ligne à son encontre avaient été repérés plus tôt, aurait-on pu les faire supprimer ? C’est à cette question qu’Hélène Risser et ses invités tentent de répondre sur le plateau de l’émission Hashtag. 
Public Sénat

Par Quentin Poirier

Temps de lecture :

4 min

Publié le

Mis à jour le

Le 7 octobre Brahim C. parent d’une élève du collège à Conflans-Sainte-Honorine accuse Samuel Paty dans plusieurs publications sur Facebook d’avoir montré des « images nues du prophète », il s’agit en réalité de caricatures de Charlie Hebdo. Puis le lendemain dans une vidéo publiée sur le même réseau social il demande la démission du professeur.

Pour Jean-Marc Royer Président et fondateur de Netino : « Malheureusement ces messages n’auraient pas été retirés s’ils avaient été soumis à nos équipes. Parce que finalement les propos de ce père de famille sont relativement modérés. Il est offusqué, il est pas content c’est clair, mais il ne dit rien d’illégal, il ne fait pas d’appel à la violence, pas d’appel au meurtre ». Le problème n’est pas alors dans le message en lui-même, mais dans les internautes qui vont ensuite le relayer et surenchérir avec des propos plus violents que ceux portés dans le message d’origine. 

Quand le virtuel s’immisce dans le réel

Si dans ses posts, Brahim C ne donne pas explicitement l’adresse de l’enseignant, il propose tout de même de la fournir par message privé aux internautes qui le souhaitent. Ilana Soskin avocate à la Licra analyse : « Pour moi proposer de donner l’adresse de quelqu’un, c’est qu’on passe au monde réel et on sort du monde virtuel. […] À partir du moment où quelqu’un vous dit, j’ai son adresse, il y a quelque chose de matériel qui en découle ». Il faut donc avoir une vigilance quand des éléments de la vie privée tombent dans les mains dinternautes mal intentionnés.

L’avocate insiste : « Qu’est-ce que va faire la personne une fois qu’elle a son adresse ? Elle ne va pas aller lui dire, je ne suis pas d’accord avec vous. Donc moi ce professeur serait venu me voir, j’aurais tout de même demandé à ce que l’on retire les messages, peut être que l’on suspende le profil de cette personne qui a votre adresse. J’aurais eu une vigilance par la réitération et par le fait qu’il ait son adresse et qu’il souhaite la communiquer ». 

Jean-Marc Royer rappelle : « Un modérateur doit prendre une décision pour savoir si un texte est acceptable ou non en quelques secondes. Donc forcément il faut être assez rodé et efficace. Et souvent ces propos sont ambigus. Ça veut dire que des propos clairement à retirer c’est facile, mais souvent les internautes s’expriment en sous-entendu, voire mal. On a de la difficulté à comprendre ce qu’ils veulent dire ». 

Déceler la haine dans la masse

Pourtant fin juillet la LICRA fait supprimer un tweet posté par le compte Twitter de l’assassin de Samuel Paty. Ilana Soskin raconte : « La LICRA n’a pas eu un suivi postérieur sur ce profil. Elle a reçu ce tweet qui était antisémite donc elle a décidé de le signaler à Twitter qui l’a supprimé. Il y a des milliers de tweets que la LICRA signale. Donc la LICRA ne peut pas suivre les comptes de tout le monde. Parce qu’il faudrait 300 personnes à la LICRA pour attaquer et pour suivre toutes ces personnes ». Même si ici il n’y a pas eu de sanction à l’encontre de l’internaute, supprimer rapidement son message évite que ce dernier ne se propage et prenne de l’ampleur.

Face à la masse de messages haineux que doivent traiter les associations, Jean-Marc Royer dresse le constat suivant : «Quand il faut traiter des milliers de messages aucune association, aucun organisme d’État ne peut les traiter à la main un par un. Et donc la seule solution pour faire évoluer les choses, c’est de passer à un système automatique et rapide pour agir ».

Dans la même thématique

La difficile modération de la haine en ligne
2min

Politique

Départ du proviseur du lycée Maurice-Ravel : « Dans un monde normal, celle qui aurait dû partir, c’est l’élève », dénonce Bruno Retailleau

Menacé de mort après une altercation avec une élève à qui il avait demandé de retirer son voile, le proviseur du lycée parisien Maurice-Ravel a quitté ses fonctions. Une situation inacceptable pour le président des Républicains au Sénat, qui demande à la ministre de l’Éducation nationale d’« appliquer la loi jusqu’au bout ».

Le

PARIS: UNEDIC, prevision financieres de l assurance chomage
7min

Politique

Réforme des règles de l’assurance chômage : les pistes du gouvernement

Après un séminaire gouvernemental sur le travail, où il sera question de l’assurance chômage, le premier ministre va s’exprimer ce soir lors du 20 heures du TF1. La piste principale est celle d’une réduction de la durée d’indemnisation des chômeurs, actuellement de 18 mois maximum. Les règles de l’assurance chômage ont déjà été durcies deux fois, depuis qu’Emmanuel Macron est Président.

Le