La difficile modération de la haine en ligne

La difficile modération de la haine en ligne

Le 16 octobre le professeur d’histoire Samuel Paty est assassiné à Conflans-Sainte-Honorine. Rapidement les réseaux sociaux se retrouvent sur le banc des accusés. On leur reproche de propager la haine et d’avoir fait de l’enseignant une cible pour les terroristes. Mais si les propos en ligne à son encontre avaient été repérés plus tôt, aurait-on pu les faire supprimer ? C’est à cette question qu’Hélène Risser et ses invités tentent de répondre sur le plateau de l’émission Hashtag. 
Public Sénat

Par Quentin Poirier

Temps de lecture :

4 min

Publié le

Mis à jour le

Le 7 octobre Brahim C. parent d’une élève du collège à Conflans-Sainte-Honorine accuse Samuel Paty dans plusieurs publications sur Facebook d’avoir montré des « images nues du prophète », il s’agit en réalité de caricatures de Charlie Hebdo. Puis le lendemain dans une vidéo publiée sur le même réseau social il demande la démission du professeur.

Pour Jean-Marc Royer Président et fondateur de Netino : « Malheureusement ces messages n’auraient pas été retirés s’ils avaient été soumis à nos équipes. Parce que finalement les propos de ce père de famille sont relativement modérés. Il est offusqué, il est pas content c’est clair, mais il ne dit rien d’illégal, il ne fait pas d’appel à la violence, pas d’appel au meurtre ». Le problème n’est pas alors dans le message en lui-même, mais dans les internautes qui vont ensuite le relayer et surenchérir avec des propos plus violents que ceux portés dans le message d’origine. 

Quand le virtuel s’immisce dans le réel

Si dans ses posts, Brahim C ne donne pas explicitement l’adresse de l’enseignant, il propose tout de même de la fournir par message privé aux internautes qui le souhaitent. Ilana Soskin avocate à la Licra analyse : « Pour moi proposer de donner l’adresse de quelqu’un, c’est qu’on passe au monde réel et on sort du monde virtuel. […] À partir du moment où quelqu’un vous dit, j’ai son adresse, il y a quelque chose de matériel qui en découle ». Il faut donc avoir une vigilance quand des éléments de la vie privée tombent dans les mains dinternautes mal intentionnés.

L’avocate insiste : « Qu’est-ce que va faire la personne une fois qu’elle a son adresse ? Elle ne va pas aller lui dire, je ne suis pas d’accord avec vous. Donc moi ce professeur serait venu me voir, j’aurais tout de même demandé à ce que l’on retire les messages, peut être que l’on suspende le profil de cette personne qui a votre adresse. J’aurais eu une vigilance par la réitération et par le fait qu’il ait son adresse et qu’il souhaite la communiquer ». 

Jean-Marc Royer rappelle : « Un modérateur doit prendre une décision pour savoir si un texte est acceptable ou non en quelques secondes. Donc forcément il faut être assez rodé et efficace. Et souvent ces propos sont ambigus. Ça veut dire que des propos clairement à retirer c’est facile, mais souvent les internautes s’expriment en sous-entendu, voire mal. On a de la difficulté à comprendre ce qu’ils veulent dire ». 

Déceler la haine dans la masse

Pourtant fin juillet la LICRA fait supprimer un tweet posté par le compte Twitter de l’assassin de Samuel Paty. Ilana Soskin raconte : « La LICRA n’a pas eu un suivi postérieur sur ce profil. Elle a reçu ce tweet qui était antisémite donc elle a décidé de le signaler à Twitter qui l’a supprimé. Il y a des milliers de tweets que la LICRA signale. Donc la LICRA ne peut pas suivre les comptes de tout le monde. Parce qu’il faudrait 300 personnes à la LICRA pour attaquer et pour suivre toutes ces personnes ». Même si ici il n’y a pas eu de sanction à l’encontre de l’internaute, supprimer rapidement son message évite que ce dernier ne se propage et prenne de l’ampleur.

Face à la masse de messages haineux que doivent traiter les associations, Jean-Marc Royer dresse le constat suivant : «Quand il faut traiter des milliers de messages aucune association, aucun organisme d’État ne peut les traiter à la main un par un. Et donc la seule solution pour faire évoluer les choses, c’est de passer à un système automatique et rapide pour agir ».

Dans la même thématique

PARIS, Ministere de l’Economie, des Finances et de l’Industrie, situe a l’Est de la capitale, dans le quartier de Bercy.
8min

Politique

Fiscalité : à quoi pourrait ressembler un nouvel impôt local ?

« Il n’y aura pas de nouvelle taxe, mais il faut réfléchir à une participation possible au fait de vivre dans la ville ou le village », avance la ministre Catherine Vautrin, qui ouvre la réflexion avec les élus. Au Sénat, le président de la délégation aux collectivités, Bernard Delcros, évoque une « réforme de la taxe foncière », quand le vice-président de l’AMF, Philippe Laurent, défend une contribution qui « tient compte très largement du revenu ». Le débat est loin d’être clôt.

Le

Paris : Debate session of public finances
9min

Politique

Narcotrafic : de courtes peines de prison pour les consommateurs de drogue, une proposition qui divise les mondes judiciaires et politiques

En écho aux nombreux faits divers liés au trafic de drogue, le député Rassemblement national, Jean-Philippe Tanguy, demande la création de courtes peines de prison pour les consommateurs de stupéfiants. Une solution que rejette Raphaël Glucksmann ou Mathilde Panot et qui fait réagir les syndicats de magistrat et de police.

Le

Ursula von der Leyen attends Renaissance European Campus in Bordeaux
6min

Politique

Coup d’envoi des auditions des commissaires européens : « Une évaluation des compétences, mais aussi un filtre politique » 

Ce lundi 4 novembre marque le coup d’envoi des auditions des commissaires européens qui dureront jusqu’au 12 novembre. Ces oraux doivent permettre aux commissaires de développer leur vision de leur action au sein de la Commission européenne. Ce sera aussi l’occasion pour les députés de contrôler l’exécutif et faire valoir leurs priorités politiques.

Le