Intervention de Éric Garandeau

Pour avoir du succès sur TikTok, il faut un certain talent pour fabriquer des vidéos qui obtiendront une grande viralité. Cela introduit une forme de barrière à l'entrée : plus une vidéo est virale, plus elle va être modérée. L'algorithme la testera sur un certain nombre de personnes et, le cas échéant, élargira le cercle de ces personnes en fonction des commentaires qu'elle suscite jusqu'à aboutir à une visibilité mondiale. À chaque cycle d'élargissement, un tour de modération est effectué, qui sont autant de filtres successifs pouvant entraîner une suppression de la vidéo.

Les algorithmes détectent très bien la violence graphique. Une simple goutte de sang à l'écran est rapidement identifiée. Cela peut conduire à un retrait avant la première vue. A contrario, le cyberharcèlement est beaucoup plus difficile à déceler car il nécessite une prise en compte du contexte. Une vidéo a priori anodine peut s'avérer un cyberharcèlement.

La modération combine donc les algorithmes et le facteur humain. Par exemple, la présence d'une croix gammée peut caractériser une vidéo néo-nazie, mais également un film pédagogique du Mémorial de la Shoah. C'est la raison pour laquelle nous employons 600 modérateurs en langue française. Le lien avec les autorités existe à différents niveaux, Pharos étant l'organisme de référence avec lequel la procédure est quasi immédiate. Un service spécialisé de notre équipe répond également aux réquisitions de la police et de la gendarmerie nationales, selon une procédure d'urgence ou une procédure plus classique. La procédure d'urgence garantit une réponse dans l'heure.

À la fin juin, lors des émeutes, nous avons constitué une cellule de crise avec des équipes surnuméraires, comme nous pouvons également le faire lors des élections nationales. Cela a permis de traiter les demandes de Pharos, qui étaient assez limitées puisque nous avons été saisis à dix reprises. Chaque plateforme dispose de règles communautaires spécifiques en fonction de son positionnement et de son public. Nous appliquons évidemment le Digital Services Act européen (DSA) et la loi pénale nationale. Nous disposons également de règles propres : sur TikTok, la pornographie et la nudité sont interdites. Enfin, nous nous inspirons de tous les textes dignes d'intérêt, notamment ceux des Nations Unies sur le respect des droits de l'homme et de l'enfant. Notre conseil consultatif européen est constitué d'experts, dont la directrice générale d'e-Enfance. Il est consulté sur les règles communautaires, qui évoluent en permanence, notamment en fonction des législations.

Nous avons beaucoup travaillé sur la question du mimétisme, notamment auprès du jeune public. Nous avons été sollicités sur les défis et canulars dangereux. Nos travaux de recherche ont vocation à se poursuivre en lien avec le monde académique, y compris en utilisant des interfaces de programmation applicative (API). Nous déployons des politiques de communication et des opérations de sensibilisation auprès de nos utilisateurs, qui leur permettent de prendre du recul et de se poser des questions.