La difficile modération de la haine en ligne
Le 16 octobre le professeur d’histoire Samuel Paty est assassiné à Conflans-Sainte-Honorine. Rapidement les réseaux sociaux se retrouvent sur le banc des accusés. On leur reproche de propager la haine et d’avoir fait de l’enseignant une cible pour les terroristes. Mais si les propos en ligne à son encontre avaient été repérés plus tôt, aurait-on pu les faire supprimer ? C’est à cette question qu’Hélène Risser et ses invités tentent de répondre sur le plateau de l’émission Hashtag. 

La difficile modération de la haine en ligne

Le 16 octobre le professeur d’histoire Samuel Paty est assassiné à Conflans-Sainte-Honorine. Rapidement les réseaux sociaux se retrouvent sur le banc des accusés. On leur reproche de propager la haine et d’avoir fait de l’enseignant une cible pour les terroristes. Mais si les propos en ligne à son encontre avaient été repérés plus tôt, aurait-on pu les faire supprimer ? C’est à cette question qu’Hélène Risser et ses invités tentent de répondre sur le plateau de l’émission Hashtag. 
Public Sénat

Par Quentin Poirier

Temps de lecture :

4 min

Publié le

Mis à jour le

Le 7 octobre Brahim C. parent d’une élève du collège à Conflans-Sainte-Honorine accuse Samuel Paty dans plusieurs publications sur Facebook d’avoir montré des « images nues du prophète », il s’agit en réalité de caricatures de Charlie Hebdo. Puis le lendemain dans une vidéo publiée sur le même réseau social il demande la démission du professeur.

Pour Jean-Marc Royer Président et fondateur de Netino : « Malheureusement ces messages n’auraient pas été retirés s’ils avaient été soumis à nos équipes. Parce que finalement les propos de ce père de famille sont relativement modérés. Il est offusqué, il est pas content c’est clair, mais il ne dit rien d’illégal, il ne fait pas d’appel à la violence, pas d’appel au meurtre ». Le problème n’est pas alors dans le message en lui-même, mais dans les internautes qui vont ensuite le relayer et surenchérir avec des propos plus violents que ceux portés dans le message d’origine. 

Quand le virtuel s’immisce dans le réel

Si dans ses posts, Brahim C ne donne pas explicitement l’adresse de l’enseignant, il propose tout de même de la fournir par message privé aux internautes qui le souhaitent. Ilana Soskin avocate à la Licra analyse : « Pour moi proposer de donner l’adresse de quelqu’un, c’est qu’on passe au monde réel et on sort du monde virtuel. […] À partir du moment où quelqu’un vous dit, j’ai son adresse, il y a quelque chose de matériel qui en découle ». Il faut donc avoir une vigilance quand des éléments de la vie privée tombent dans les mains d’internautes mal intentionnés.

L’avocate insiste : « Qu’est-ce que va faire la personne une fois qu’elle a son adresse ? Elle ne va pas aller lui dire, je ne suis pas d’accord avec vous. Donc moi ce professeur serait venu me voir, j’aurais tout de même demandé à ce que l’on retire les messages, peut être que l’on suspende le profil de cette personne qui a votre adresse. J’aurais eu une vigilance par la réitération et par le fait qu’il ait son adresse et qu’il souhaite la communiquer ». 

Jean-Marc Royer rappelle : « Un modérateur doit prendre une décision pour savoir si un texte est acceptable ou non en quelques secondes. Donc forcément il faut être assez rodé et efficace. Et souvent ces propos sont ambigus. Ça veut dire que des propos clairement à retirer c’est facile, mais souvent les internautes s’expriment en sous-entendu, voire mal. On a de la difficulté à comprendre ce qu’ils veulent dire ». 

Déceler la haine dans la masse

Pourtant fin juillet la LICRA fait supprimer un tweet posté par le compte Twitter de l’assassin de Samuel Paty. Ilana Soskin raconte : « La LICRA n’a pas eu un suivi postérieur sur ce profil. Elle a reçu ce tweet qui était antisémite donc elle a décidé de le signaler à Twitter qui l’a supprimé. Il y a des milliers de tweets que la LICRA signale. Donc la LICRA ne peut pas suivre les comptes de tout le monde. Parce qu’il faudrait 300 personnes à la LICRA pour attaquer et pour suivre toutes ces personnes ». Même si ici il n’y a pas eu de sanction à l’encontre de l’internaute, supprimer rapidement son message évite que ce dernier ne se propage et prenne de l’ampleur.

Face à la masse de messages haineux que doivent traiter les associations, Jean-Marc Royer dresse le constat suivant : « Quand il faut traiter des milliers de messages aucune association, aucun organisme d’État ne peut les traiter à la main un par un. Et donc la seule solution pour faire évoluer les choses, c’est de passer à un système automatique et rapide pour agir ».

Partager cet article

Dans la même thématique

First Debate of the French Socialist Party Primary – Paris EB
6min

Politique

« Maintenant, il doit rassembler tout le monde » : les sénateurs PS attendent « des signes » d’unité de Raphaël Glucksmann

Après sa victoire écrasante à la primaire, les sénateurs PS seront « au service » de la campagne de Raphaël Glucksmann, assure leur président de groupe, Patrick Kanner, qui compte « inviter » le candidat devant le groupe. Mais plusieurs attendent qu’il montre par les actes sa volonté d’union. « Nous travaillons à un organigramme de rassemblement », assure le sénateur Alexandre Ouizille, directeur de la communication dans l'équipe de Raphaël Glucksmann.

Le

Patrick Kanner
2min

Politique

Les groupes PS, PCF et écologiste du Sénat appellent à un « cordon sanitaire » et à « ne rien céder » face au nouveau groupe RN

« Il ne peut y avoir ni ambiguïté, ni accommodement, ni complaisance : le cordon sanitaire doit se traduire par des actes », soutiennent dans un communiqué commun les groupes PS, communiste et écologiste du Sénat, face à la création du premier groupe RN/UDR de la Haute assemblée. Ils appellent à ne rien voter qui émanerait de l’extrême droite.

Le

Illustrations – SUPERMARCHE – CARREFOUR EXPRESS
4min

Politique

Cyberattaque contre des frigos connectés de supermarchés : « Des systèmes de réfrigération exposés sur Internet », alertent des experts en cybersécurité

300 magasins Intermarché/Netto, plusieurs du groupement E. Leclerc, 80 supermarchés Carrefour, 80 magasins U et une trentaine de Monoprix ont été touchés par une cyberattaque d’ampleur. Les hackers ont ciblé les systèmes de régulation frigorifique à distance du fabricant danois Danfoss. La vulnérabilité du logiciel avait pourtant déjà été repérée il y a quelques années par des experts en cybersécurité lors de différents audits.

Le

La difficile modération de la haine en ligne
7min

Politique

Gel des retraites au-delà de 1280 euros : « Un effort nécessaire, pour ne pas créer de fracture générationnelle », justifie le ministre David Amiel

Le ministre des Comptes publics assure que le gouvernement n’est pas dans l’affrontement des générations, avec son projet de désindexation partielle des pensions de retraite. Il souligne qu’il laissera le choix du curseur aux parlementaires, et la possibilité d’être plus souple, le cas échéant, avec l’évolution de l’abattement fiscal dont bénéficient les retraités.

Le