: Grand entretien "Sur TikTok, on est confronté assez rapidement à la désinformation" : une spécialiste des fake news explique pourquoi ce réseau social leur est propice

TikTok est plus que jamais sous le feu des critiques. L'Assemblée nationale a approuvé la création d'une commission d'enquête sur les effets psychologiques de l'application sur les mineurs, jeudi 13 mars. Une réponse, notamment, aux démarches de onze familles qui ont assigné l'entreprise en justice en France, l'accusant de ne pas modérer des contenus problématiques, notamment en lien avec le suicide, l'automutilation et les troubles alimentaires.

A l'étranger aussi, les griefs envers le réseau social créé en Chine sont nombreux. Il est au cœur des soupçons d'ingérence russe dans l'élection présidentielle en Roumanie, annulée en décembre alors que le candidat d'extrême droite avait réussi une percée surprise portée par l'application de vidéos. Celle-ci a également été suspendue fin janvier aux Etats-Unis en vertu d'une loi adoptée pour prévenir un risque d'espionnage par Pékin, avant d'être rétablie par Donald Trump.

Cinquième réseau social du monde en nombre d'utilisateurs selon le site DataReportal, mais au deuxième rang en termes de temps passé, TikTok surpasse ses concurrents Facebook, YouTube et Instagram (mais pas X) dans l'amplification de la désinformation, estimait en 2022 une étude de l'Integrity Institute, un groupe de réflexion américain. Afin de comprendre ce qui rend ce réseau propice à la propagation de ces contenus, franceinfo s'est entretenu avec Chine Labbé, rédactrice en chef et vice-présidente Europe et Canada de Newsguard, une entreprise américaine qui évalue la fiabilité de milliers de sites d'actualité et d'information, et membre du comité d'éthique de Radio France.

Franceinfo : Dans quelle mesure l'algorithme de TikTok a-t-il tendance à favoriser les contenus de désinformation et/ou complotistes ?

Chine Labbé : TikTok a rendu public les grandes lignes de son algorithme de recommandations. Mais ils ont leur "sauce secrète", qui relève du secret industriel. Un document interne élaboré par les ingénieurs de TikTok a fuité en décembre 2021 dans le New York Times. Il révèle que chaque vidéo possède un score basé sur plusieurs critères comme le nombre de likes, de commentaires et la durée moyenne de visionnage. Plus les vidéos ont un score élevé, plus elles vont être recommandées aux utilisateurs.

Ce qui fait le succès et le danger potentiel de TikTok, c'est son ultrapersonnalisation : les vidéos sont très courtes, les gens vont en regarder beaucoup, ce qui fait que l'application récolte beaucoup plus de données sur les goûts des personnes que sur d'autres plateformes, où l'utilisateur doit regarder beaucoup plus de contenus pour arriver au même résultat.

Sur les réseaux qui donnent l'option de partager du contenu, les vidéos présentant de fausses informations, ou des contenus violents ou clivants, ont tendance à être davantage repostées. C'est le reflet de la nature humaine : on voit quelque chose de choquant, on a tendance à le partager pour dire "attention", mais on contribue à sa viralité.

Newsguard a montré dans un rapport de 2022 que des contenus propageant de fausses informations arrivaient très rapidement sur le fil de l'utilisateur. Est-ce toujours d'actualité ? 

Nos études sur TikTok restent pertinentes aujourd'hui. Nous avons identifié en 2022 deux problèmes principaux, qui persistent : le scroll [action de faire défiler sur son écran une suite de contenus sans fin] et la fonction de recherche. On a réalisé le test à partir d'un compte nouvellement créé. Sur le scroll, on a constaté qu'en moins de 40 minutes en moyenne, si un utilisateur montrait un intérêt pour un sujet lié à l'actualité, il allait tomber sur des vidéos contenant de fausses informations concernant le sujet recherché. Or, la moyenne d'utilisation en France était d'environ 1h20 par jour, selon le rapport 2024 de We Are Social et Meltwater.

Le deuxième problème identifié, dans un autre rapport en septembre 2022, est la fonction moteur de recherche. Sur TikTok, beaucoup de personnes vont chercher de l'information sur des contenus légers, comme la meilleure crème hydratante, mais pas seulement. Beaucoup souhaitent s'informer. Sur des requêtes liées à l'actualité [sur des termes comme "élections 2020", "Hydroxychloroquine" ou "Boutcha faux"], 20% des vidéos contenaient de fausses informations dans les 20 premiers résultats de recherche. Quelle que soit l'utilisation faite de TikTok, on a tendance à se retrouver confronté assez rapidement à la désinformation.

Quel est l'impact de la démocratisation de l'IA générative dans cette désinformation ? 

On trouve effectivement beaucoup de "deepfakes" [vidéos ou images truquées à partir de l'IA] sur TikTok. Nous avons sorti deux enquêtes sur l'utilisation de l'IA générative audio. Cela consiste à créer des voix off de synthèse à partir d'un texte, et cette voix truquée va servir à accompagner des vidéos ou des diaporamas photos. Cela permet à des "fermes de contenu" de générer énormément de vidéos par jour, et ce, très rapidement. Dans un rapport de septembre 2023, nous avons mis au jour un réseau de 17 comptes TikTok relayant des contenus de désinformation très viraux à l'aide d'un logiciel de synthèse vocale IA hyperréaliste. Il visait plutôt des célébrités, comme Barack Obama.

Plus récemment, en juillet 2024, nous avons répertorié 41 comptes TikTok en anglais et en français qui faisaient la même chose. L'objectif était de diffuser de la désinformation politique de masse, notamment des récits pro-Kremlin sur l'Ukraine. Ce réseau a produit plus de 9 000 vidéos entre mars 2023 et juin 2024 pour un total de 380 millions de vues. C'est délirant et cela constitue une concurrence déloyale avec le journalisme classique, qui ne va pas se servir de l'IA pour produire des sujets.

La maison mère de TikTok, ByteDance, a annoncé en 2024 la suppression de plusieurs centaines de postes de modérateurs de contenus pour les remplacer par de l'IA. Cette mesure sera-t-elle efficace contre la désinformation ?

ByteDance affirme que l'IA peut signaler et supprimer les contenus qui violent les directives communautaires de TikTok avec un taux de réussite de 80%. Or, on sait que même avec des modérateurs humains, il y a énormément de trous dans la raquette en matière de détection de la désinformation. Des études ont été menées à l'époque de la modération humaine.

Même si l'IA est très efficace pour repérer des contenus haineux, des appels à la haine, du contenu pornographique ou violent, elle l'est beaucoup moins pour repérer la désinformation et la propagande d'Etat. Car ce sont des contenus fabriqués pour ressembler à de l'actualité traditionnelle. Il faut donc une expertise journalistique, un œil humain, pour les repérer. Nous avons montré, au fil des années, que TikTok ne passe pas le test de la lutte contre la désinformation.

"Le risque est que les trous dans la raquette deviennent encore plus béants si on supplante les modérateurs humains par de l'IA."

Chine Labbé, rédactrice en chef chez Newsguard

à franceinfo

L'ONG britannique Global Witness avait souligné, à l'approche des élections européennes de 2024, l'incapacité de TikTok à détecter les publicités de désinformation électorale en langue irlandaise. Comment est-ce possible ?

Cette étude a montré qu'il y avait des différences de modération en fonction des langues. Celle-ci est moins efficace sur l'irlandais, car cette langue est moins parlée que l'anglais. L'ONG montre aussi à quel point il est facile de contourner les politiques de modération existantes, avec l'algospeak, par exemple [utilisation d'expressions codées pour échapper aux algorithmes de modération automatisés sur les plateformes de médias sociaux]. On peut écrire "electi0n" au lieu de "élection". 

Selon une enquête de la fondation Jean Jaurès de 2023, 74% des jeunes de 18-24 ans sur TikTok croient à au moins une contre-vérité scientifique. Sont-ils les seuls concernés ?

Quand l'apprentissage de l'information se fait uniquement sur les réseaux sociaux, cela exige des grilles de lecture supplémentaires, un accompagnement pour apprendre à distinguer les sources. Le design même de l'application, le scroll, fait que l'on passe ainsi d'une vidéo à l'autre. Ça peut passer d'un discours de Vladimir Poutine juste traduit, sans mise en contexte, à un reportage de grande qualité, par exemple, puis une vidéo à caractère complotiste.

"Il n'y a pas de labellisation ni de différenciation des contenus sur TikTok. Cela renforce cette espèce de brouillard informationnel."

Chine Labbé, rédactrice en chef à Newsguard

à franceinfo

Mais la désinformation, le manque d'éducation aux médias et de formation à l'esprit critique n'est pas l'apanage des jeunes, loin de là. Il existe un phénomène global très inquiétant, évoqué dans l'enquête de la fondation Jean Jaurès : "La sécession d'une partie importante de la population avec le consensus scientifique, et plus largement, la subordination de son rapport à la réalité à ses convictions politiques ou philosophiques." Petit à petit s'impose l'idée que personne ne peut se faire l'arbitre de la vérité. Cela remet en cause le travail et l'existence même du journalisme.

Au lieu de crier au scandale, parce que les jeunes s'informent via des influenceurs [sur les réseaux sociaux], nous pouvons nous demander : "Qu'est-ce que nous pouvons apprendre des influenceurs, de leurs codes de communication, de leur manière de parler ?" Nous, journalistes, pouvons apprendre de ce qui fait le succès de TikTok. On doit le faire avec humilité.