Intervention de Sarah Bouchahoua

Je vous remercie pour cette audition sur un sujet majeur : la protection de nos utilisateurs et de nos principes démocratiques. Je vais m'attacher à répondre aux questions que vous nous avez envoyées préalablement à la réunion.

Snapchat est une plateforme de communication visuelle créée en 2011. Elle a pour objectif de reproduire nos interactions quotidiennes entre amis et en famille. Nous avons essayé de concevoir Snapchat de manière différente. Nous pensons que les réseaux sociaux ne doivent pas se résumer à une compétition entre les utilisateurs où le sensationnel et le partage massif d'informations l'emporteraient sur l'authenticité et la protection de notre communauté. À cet effet, Snapchat est une plateforme dite fermée : il faut s'y inscrire pour accéder à l'ensemble des fonctionnalités. La plateforme a été conçue sur deux principes directeurs : vie privée et confidentialité par défaut. Par exemple, nous n'offrons pas de fonctionnalité de diffusion en direct. Il n'y a pas de critères de vanité publique avec des « J'aime » ou des partages. De même, l'ensemble des conversations sont privées.

La plateforme comporte cinq fonctionnalités clefs. Dès qu'elle se lance, elle s'ouvre sur une caméra qui permet d'interagir avec des expériences en réalité augmentée, et non sur un fil d'actualité gouverné par des algorithmes opaques. Ensuite, la fonctionnalité phare de Snapchat est la messagerie interpersonnelle, conçue comme un espace de confiance entre utilisateurs : pour interagir avec quelqu'un, l'amitié doit être réciproque. Par la suite, toute capture d'écran ou tout enregistrement de messages sont notifiés à l'interlocuteur. Enfin, nous avons des groupes privés, mais leur nombre est limité à cent et ils ne sont pas publics.

« Discover » met en avant les contenus de nos partenaires média de confiance, soit plus de cent en France, reconnus pour leur qualité journalistique. « Spotlight » est une fonctionnalité mettant en avant des vidéos humoristiques d'utilisateurs ou présentant des scènes du quotidien. Enfin, la « map » affiche des contenus publics envoyés par notre communauté, dans le monde entier.

La protection de nos utilisateurs étant notre priorité, l'ensemble des espaces publics que j'ai cités font l'objet d'une modération humaine stricte. La conception elle-même de la plateforme assure une sorte de rempart structurel contre tout risque de diffusion massive de contenus illicites ou préjudiciables. Ces derniers restent donc très rares et nous n'observons pas d'évolution en matière de contenus violents ou illicites. Il n'y a pas plus de contenus de ce type dernièrement qu'il y a plusieurs semestres ou années, comme le confirment nos rapports de transparence.

Nos conditions générales d'utilisation et les règles communautaires de Snapchat interdisent sur l'ensemble de la plateforme toute diffusion et tout partage de contenus illicites ou préjudiciables. Elles ont été rédigées de manière claire. Elles sont facilement accessibles à l'ensemble de la communauté. À cet effet, nous interdisons explicitement toute violence, menace et discours haineux. L'utilisation de notre plateforme est interdite aux groupes terroristes, extrémistes ou haineux. Il est interdit d'encourager les comportements haineux ou dangereux ainsi que la violence visant une ou plusieurs personnes, ou même des biens. Nous concevons la menace ou la violence comme tout contenu qui exprime l'intention de causer un dommage physique ou émotionnel grave. Nous visons tout contenu qui tente de glorifier ou de représenter la violence humaine, la maltraitance des animaux ou les scènes sanglantes.

Les plateformes ne pouvant procéder à une surveillance généralisée, nous accordons une grande importance aux signalements, qu'ils proviennent d'autorités ou d'utilisateurs. Nous incitons toute victime ou témoin de contenu préjudiciable à le signaler au plus vite. À cet effet, nous disposons d'un menu de signalement qui présente toutes les catégories illicites. Nous invitons les usagers à décrire un contexte afin de guider nos modérateurs vers la bonne décision. Une fois le signalement effectué, l'utilisateur signalé est informé. Nous avons également mis en place un programme de confiance avec des associations partenaires qui nous signifient tout contenu illicite ou préjudiciable. Actuellement, nos équipes de modération traitent l'ensemble des signalements en moins de vingt-quatre heures.

En parallèle, une équipe est dédiée à la coopération avec les forces de l'ordre, dont Pharos en France. Nous avons ouvert un canal direct avec Pharos afin de traiter au plus vite les demandes. Aujourd'hui, nous traitons les réquisitions judiciaires urgentes en moins de trente minutes. Nous essayons de nous conformer à l'ensemble des exigences réglementaires et d'apporter notre soutien aux forces de l'ordre sur le terrain, pour identifier sans délai l'ensemble des délinquants numériques. Nous mettons à disposition du public chaque semestre des rapports de transparence, l'un d'entre eux couvrant nos relations avec les autorités.

Pour le second semestre 2022, sur 827 000 signalements reçus dans le monde, nous avons retiré 229 347 contenus et supprimé 138 013 comptes. En France, les chiffres sont de 54 479 signalements, avec 10 253 contenus et 6 927 comptes supprimés. Au niveau mondial, dans la catégorie violence, nos équipes ont mis moins de vingt-quatre minutes pour traiter l'ensemble des signalements reçus. Nous préparons actuellement le rapport de transparence pour le premier semestre 2023.

Snapchat n'est pas conçu pour la diffusion massive de contenus illicites et violents. Sans possibilité de diffusion en direct, la plateforme ne se prête pas vraiment à l'organisation ou à la diffusion massive de scènes violentes, militantes ou politiques. Par ailleurs, les échanges privés relevant du secret de la correspondance, nous ne sommes saisis que sur signalement d'un utilisateur ou d'une autorité.

Nous n'avons pas eu connaissance de signalements ou de réquisitions judiciaires s'agissant d'un contenu violent sur Snapchat lié aux manifestations ayant eu lieu entre les mois de mars et de mai 2023, ni d'augmentation significative au cours de la période.

En revanche, les émeutes récentes ont mobilisé l'ensemble de nos équipes. Dès mardi 27 juin 2023, nous avons créé une cellule interne réunissant différentes équipes pour traiter et endiguer le plus rapidement possible les contenus illicites. Notre équipe a été en dialogue constant avec les différents ministères et les institutions locales, répondant rapidement à toute demande des autorités françaises et sensibilisant nos usagers aux différents phénomènes. Nous sommes fiers, comme l'ensemble des plateformes, d'avoir pu répondre dans des délais très restreints aux préoccupations du gouvernement. Nous avons mis en place une ligne prioritaire avec Pharos, le ministère de l'intérieur et l'ensemble des autorités françaises en traitant leurs demandes en quelques heures, voire quelques minutes.

Plusieurs de nos créateurs de contenus ont par ailleurs pris leur caméra Snapchat pour sensibiliser leurs communautés et appeler au calme. Nous avons beaucoup entendu parler de la fonctionnalité « map » de Snapchat. Nous avons travaillé conjointement avec le ministère de l'intérieur et les autorités afin d'endiguer sans attendre les différents dérapages perçus sur le terrain. L'ensemble des messages publiés sur la map émanait à la fin d'utilisateurs qui se plaignaient des émeutes et de leurs conséquences. Nous sommes fiers d'avoir pu participer à cette coopération afin de protéger nos utilisateurs.