Analyse des interactions, contenu choisi et stockage de données… Que sait-on de l'algorithme de TikTok dénoncé par des familles françaises ?

Le réseau social TikTok est mis en cause par onze familles françaises qui lui reprochent de ne pas avoir modéré des contenus en lien avec le suicide, l'automutilation et les troubles alimentaires. L'algorithme de la plateforme est accusé d'avoir exposé leurs enfants à des contenus qui les ont mis en danger. Franceinfo fait le point sur cet algorithme et son fonctionnement.

Il y a encore quelques mois toutes les infos étaient gardées bien précieusement. Mais depuis, TikTok a dû montrer patte blanche, notamment pour éviter l'interdiction du réseau social aux Etats-Unis. Une interdiction initialement prévue le 19 janvier 2025, la veille de l'investiture de Donald Trump. L'entreprise a donc publié une partie de son code et des logiciels qu'elle utilisait, notamment des logiciels américains pour tenter de rassurer et de s'éloigner de l'image d'entreprise 100% chinoise.

L'algorithme s'adapte en quelques minutes à chaque utilisateur

L'application fait tout pour garder l'internaute le plus longtemps possible sur sa plateforme. Des experts ont consulté ce code. Ils ont constaté que les outils utilisés par TikTok permettent d'analyser les interactions des utilisateurs avec les vidéos pour adapter leurs suggestions. Par exemple ce que vous likez, commentez, partagez etc… L'algorithme se repose aussi sur le temps de visionnage d'une vidéo : plus un utilisateur regarde une vidéo longtemps, plus l'algorithme considérera que le sujet lui plaît. Le risque est donc de se retrouver dans une boucle avec les mêmes thèmes. L'idée, c'est que l'algorithme soit personnalisé et s'adapte en quelques minutes à chaque utilisateur.

Avec ce bout de code dévoilé, TikTok est très loin de révéler tous ses secrets. La façon dont l'appli fait monter des tendances plutôt que d'autres et la façon dont ils n'arrivent pas à réguler certaines de ces tendances, y compris celles dangereuses. Ce qui reste inconnu aussi, c'est le traitement, l'utilisation et le stockage des données des utilisateurs. Tout cela reste totalement opaque.

C'est d'ailleurs révélé dans une commission d'enquête du Sénat. On y apprend que Titkok dresse un profil psychologique de ses utilisateurs et peut l'utiliser à des fins commerciales. C'est là que le risque d'être enfermé dans une boucle peut être dangereux. L'appli a davantage tendance à proposer du contenu dangereux à des personnes vulnérables. "Les profils montrant de l'intérêt pour les enjeux de santé mentale se voient proposer 12 fois plus de vidéos liées au suicide", indique le Sénat. Plusieurs autres enquêtes sont ouvertes en Europe. L'Albanie a annoncé, jeudi, qu'elle allait couper TikTok dans les jours qui viennent.