Incitations au suicide sur Tik Tok France : Amnesty International saisit l’Arcom

Après un premier rapport en 2023 sur les conséquences de la personnalisation du fil de contenus « Pour toi » sur la santé des adolescents, Amnesty International s’attaque cette fois plus spécifiquement à l’algorithme français. A travers son enquête Entrainé-e-s dans le « rabbit hole » publiée ce mardi 21 octobre en collaboration avec l’Institut Harris, l’ONG déplore des résultats toujours plus inquiétants en termes de sécurité des jeunes sur la plateforme, et s’alarme de la passivité de Tik Tok France pour y remédier.

Des jeunes sensibilisés, mais pas assez

Près d’un tiers des Français ouvrent régulièrement l’application sur leur téléphone, avec 21.4 millions d’utilisateurs actifs. Parmi les jeunes de 13 à 25 ans interrogés, plus de 80 % admettent passer « trop de temps » sur les réseaux sociaux. La moitié d’entre eux déclarent y être souvent exposés à des contenus dérangeants, qu’il s’agisse de la promotion de corps idéalisés, de troubles du comportement alimentaires, ou dans les cas les plus graves, de la diffusion d’idées suicidaires, et de publications liées à la dépression et à l’automutilation. Un phénomène préjudiciable pour la santé mentale des jeunes, avec 58 % qui se disent affectés, en rapportant des sentiments de malaise, de tristesse et un impact sur leur estime d’eux-mêmes. Ce chiffre grimpe jusqu’à 75 % chez les jeunes femmes de 16 à 21 ans.

Si 69 % des jeunes sondés expliquent avoir déjà cherché à ne plus être exposés à ce type de contenus, seul un cinquième estime y être réellement parvenu. Cette enquête dépeint des adolescents conscients des risques, mais qui, pour la moitié d’entre eux, ignorent que le fil « Pour toi » qui leur est proposé par l’application est en fait personnalisé à l’extrême, en fonction de leurs données personnelles et de leurs centres d’intérêt. Une manière pour Tik Tok de « maximiser l’engagement et le temps passé sur la plateforme », dénonce l’ONG.

En 45 minutes, des messages de suicide

En se glissant dans la peau de jeunes utilisateurs âgés de 13 ans sur le réseau social via des faux comptes, Amnesty International s’est fait le témoin direct des mécanismes, extrêmement rapides, de l’algorithme de Tik Tok. En quelques heures d’utilisation, les résultats sont alarmants : en 45 minutes, les vidéos proposées contiennent des messages explicites sur le suicide pour deux des trois profils, et au bout de trois heures, « tous les comptes sont inondés de contenus sombres, exprimant parfois directement une volonté de mettre fin à ses jours ». L’illustration parfaite du « rabbit hole », un effet de spirale infernale : en regardant les publications recommandées par l’algorithme, d’abord par curiosité ou parce qu’ils se sentent interpellés, les jeunes peuvent finir par s’y retrouver enfermés.

Aujourd’hui âgée de 17 ans, Maëllys s’est retrouvée victime de ces recommandations alors qu’elle était au collège. « Au départ, je regardais des danses, des playbacks de Disney, de téléréalité, de scènes de films », explique-t-elle à Amnesty International. Mais très vite, son fil « Pour toi » a évolué : « En 5ème, j’ai commencé à avoir des trucs tristes, j’ai très vite liké ces vidéos parce que je me sentais concernée. Puis Tik Tok me les a reproposées et tous les contenus de mon fil d’actualité étaient tristes, parlaient de dépression ». Et l’engrenage s’est installé : « Plus je regardais, plus je trouvais des ‘solutions’, par exemple des cachettes pour des lames de rasoir. […] Tu n’as plus de souvenir d’avant, quand tu étais bien, quand tu te sentais heureuse. Tu te dis tu dis que tu as toujours été malheureuse. […] On reste là-dedans, on continue et c’est un cercle vicieux ».

« On est au degré zéro de la régulation »

Cette spirale a parfois des conséquences mortelles. Créé en 2024, le collectif Algos Victima a déposé un recours contre Tik Tok en novembre dernier devant le tribunal judiciaire de Créteil, après le suicide de deux adolescentes en 2021 et 2023. Sept familles, réunies dans ce collectif, et leur avocate Laure Boutron-Marmion, tiennent pour responsable l’application de la détérioration de la santé mentale de leurs enfants. Depuis, les appels de nouvelles familles ne cessent d’affluer au cabinet de l’avocate au barreau de Paris : « Le téléphone n’a pas arrêté de sonner, je dénombre aujourd’hui une soixantaine de parents », rapporte Me Boutron-Marmion.

La procédure « suit son cours », Tik Tok a décidé de se faire représenter par une avocate, avec une audience qui aura lieu « courant l’année prochaine ». L’avocate veut y voir une « belle victoire » pour les familles du collectif, qui vont pouvoir « obtenir des réponses face à un tel géant qui a péché par son silence depuis des années ». C’est une démarche « inédite », parce que « les plateformes se sont longtemps réfugiées derrière l’idée que les contenus ne sont pas les leurs, et qu’elles n’ont donc pas à contrôler ce qui circule ». Pourtant, ce « contentieux de responsabilité », est tout ce qu’il y a « de plus classique », précise l’avocate : « Comme n’importe quelle responsabilité d’entreprise sur un judiciable, Tik Tok ne fait pas exception. En se développant en France, elle est sous le coup de la loi française, et celle-ci est très claire en matière de responsabilité civile ». Et lorsque la dégradation de l’état de santé de certaines jeunes intervient à « une vitesse impressionnante », celle-ci ne peut être due « qu’à la viralité et l’utilisation du réseau social », martèle Me Boutron-Marmion, dans ce qu’elle considère être « un Far West numérique ». Pour l’heure, « on est au degré zéro de la régulation ».

Vers une interdiction des plateformes aux moins de 15 ans ?

En juillet 2022, l’Union européenne adoptait le règlement sur les services numériques (DSA), en vue d’harmoniser la protection des personnes, dont les enfants, en ligne. Ce texte impose aux grandes plateformes de protéger les mineurs et d’atténuer les risques systémiques lorsque ceux-ci sont identifiés. A travers son enquête, Amnesty International dénonce des entorses de Tik Tok à ses obligations en matière de droit européen, et annonce déposer un recours auprès de l’Arcom.

Des tentatives d’encadrement ont suivi au niveau français, la loi du 7 juillet 2023 a instauré une majorité numérique à 15 ans. Pourtant, celle-ci n’est pas appliquée, faute de certitude sur sa conformité au cadre européen. Une étude de l’Arcom publiée en septembre, a révélé que les enfants accèdent aux réseaux sociaux en moyenne à l’âge de 12 ans, avec des contrôles de leur âge qui n’est effectué que dans 18 % des cas. Cet été, Emmanuel Macron a rappelé sa volonté d’interdire les plateformes aux mineurs de moins de 15 ans, s’appuyant sur un dispositif annoncé par la Commission européenne qui autorise plusieurs pays, dont la France, à tester une application de vérification d’âge en ligne.

« Une adolescence non protégée, ça passe vite »

Dès 2023, le Sénat aussi se saisissait de la stratégie d’influence de Tik Tok, sous l’impulsion du groupe des Indépendants – République et Territoires. Présidée par le sénateur socialiste Mickaël Vallet, une commission préconisait notamment l’encadrement des algorithmes de recommandation et de modération. Mais une fois encore, la régulation n’est pas une tâche facile. « Nous nous attachons à décortiquer ce qu’il se passe dans une organisation mondiale, qui a, en plus, des ramifications compliquées. Il y a un vrai souci de complexité, d’opacité, et donc d’identification des acteurs », explique l’élu de la Charente-Maritime. Il déplore qu’ « on bute sur des questions de droit, dans un moment où les puissances ne s’embarrassent pas de ça ». « Les procédures sont longues, mais une adolescence non protégée, ça passe vite ».

Présentées en septembre dernier, les conclusions d’une commission d’enquête parlementaire « sur les effets psychologiques de Tik Tok sur les mineurs », ont conduit les députés à formuler une quarantaine de recommandations, dont la création d’un délit de négligence numérique pour pouvoir sanctionner directement les manquements de certains parents. Une mesure saluée par Mickaël Vallet qui permettrait, selon lui, « de poser la question d’à partir de quand la société protège les enfants malgré les parents ». Et d’ajouter : « La notion fondamentale, c’est aussi l’éducation à la parentalité ».