La difficile modération de la haine en ligne

Le 7 octobre Brahim C. parent d’une élève du collège à Conflans-Sainte-Honorine accuse Samuel Paty dans plusieurs publications sur Facebook d’avoir montré des « images nues du prophète », il s’agit en réalité de caricatures de Charlie Hebdo. Puis le lendemain dans une vidéo publiée sur le même réseau social il demande la démission du professeur.

Pour Jean-Marc Royer Président et fondateur de Netino : « Malheureusement ces messages n’auraient pas été retirés s’ils avaient été soumis à nos équipes. Parce que finalement les propos de ce père de famille sont relativement modérés. Il est offusqué, il est pas content c’est clair, mais il ne dit rien d’illégal, il ne fait pas d’appel à la violence, pas d’appel au meurtre ». Le problème n’est pas alors dans le message en lui-même, mais dans les internautes qui vont ensuite le relayer et surenchérir avec des propos plus violents que ceux portés dans le message d’origine. 

Quand le virtuel s’immisce dans le réel

Si dans ses posts, Brahim C ne donne pas explicitement l’adresse de l’enseignant, il propose tout de même de la fournir par message privé aux internautes qui le souhaitent. Ilana Soskin avocate à la Licra analyse : « Pour moi proposer de donner l’adresse de quelqu’un, c’est qu’on passe au monde réel et on sort du monde virtuel. […] À partir du moment où quelqu’un vous dit, j’ai son adresse, il y a quelque chose de matériel qui en découle ». Il faut donc avoir une vigilance quand des éléments de la vie privée tombent dans les mains d’internautes mal intentionnés.

L’avocate insiste : « Qu’est-ce que va faire la personne une fois qu’elle a son adresse ? Elle ne va pas aller lui dire, je ne suis pas d’accord avec vous. Donc moi ce professeur serait venu me voir, j’aurais tout de même demandé à ce que l’on retire les messages, peut être que l’on suspende le profil de cette personne qui a votre adresse. J’aurais eu une vigilance par la réitération et par le fait qu’il ait son adresse et qu’il souhaite la communiquer ». 

Jean-Marc Royer rappelle : « Un modérateur doit prendre une décision pour savoir si un texte est acceptable ou non en quelques secondes. Donc forcément il faut être assez rodé et efficace. Et souvent ces propos sont ambigus. Ça veut dire que des propos clairement à retirer c’est facile, mais souvent les internautes s’expriment en sous-entendu, voire mal. On a de la difficulté à comprendre ce qu’ils veulent dire ». 

Déceler la haine dans la masse

Pourtant fin juillet la LICRA fait supprimer un tweet posté par le compte Twitter de l’assassin de Samuel Paty. Ilana Soskin raconte : « La LICRA n’a pas eu un suivi postérieur sur ce profil. Elle a reçu ce tweet qui était antisémite donc elle a décidé de le signaler à Twitter qui l’a supprimé. Il y a des milliers de tweets que la LICRA signale. Donc la LICRA ne peut pas suivre les comptes de tout le monde. Parce qu’il faudrait 300 personnes à la LICRA pour attaquer et pour suivre toutes ces personnes ». Même si ici il n’y a pas eu de sanction à l’encontre de l’internaute, supprimer rapidement son message évite que ce dernier ne se propage et prenne de l’ampleur.

Face à la masse de messages haineux que doivent traiter les associations, Jean-Marc Royer dresse le constat suivant : « Quand il faut traiter des milliers de messages aucune association, aucun organisme d’État ne peut les traiter à la main un par un. Et donc la seule solution pour faire évoluer les choses, c’est de passer à un système automatique et rapide pour agir ».