Je suis heureuse d'accueillir pour la première fois au sein de notre commission Mme Marina Ferrari, secrétaire d'État chargée du numérique, dans le cadre de notre cycle d'auditions en lien avec les États généraux de l'information (EGI).

Sujet éminemment transversal, le numérique concerne de nombreux champs relevant de la compétence de notre commission, comme l'éducation aux médias, la protection des mineurs dans leur usage des réseaux sociaux, les nouveaux modèles économiques induits pour la presse ou la culture par l'arrivée de nouveaux acteurs, ou encore l'émergence de nouvelles pratiques. Le numérique est aujourd'hui incontournable dans les domaines de la culture, de l'éducation et de la recherche. Même le sport est concerné, avec le développement rapide et massif de l'e-sport.

L'intelligence artificielle (IA) bouleverse le monde numérique, mais aussi nos existences. Pouvez-vous nous présenter les conséquences les plus directes de cette innovation, en particulier pour les producteurs et pour les consommateurs d'information ? Le règlement portant sur l'intelligence artificielle, dit AI Act, a été adopté aujourd'hui au sein de l'Union européenne (UE), et la France a joué un rôle majeur dans les négociations. J'espère que vous nous en direz un peu plus sur ce sujet, ainsi que sur les adaptations de la législation nationale qui seront nécessaires.

La mission d'évaluation de la loi du 14 novembre 2016 visant à renforcer la liberté, l'indépendance et le pluralisme des médias, dite loi Bloche, dont le rapport a été publié la semaine dernière, nous a conduits, mon co-rapporteur Inaki Echaniz et moi-même, à nous pencher sur les impacts multiples et profonds du numérique sur la production et la diffusion de l'information. Au-delà de la nécessité de faire respecter la directive européenne sur les droits d'auteur et les droits voisins, quels doivent être selon vous les grands axes de l'action publique pour rééquilibrer une relation qui apparaît aujourd'hui trop défavorable aux médias traditionnels ?

Enfin, quelques jours après la Journée internationale des droits des femmes du 8 mars, je ne peux m'empêcher de vous interroger sur la féminisation des métiers du numérique, qui progresse encore trop lentement. Quelles sont les actions à mener pour l'encourager ?

Pour ma première audition devant la représentation nationale, c'est un honneur de pouvoir aborder une thématique qui me tient à cœur : l'impact des nouvelles technologies sur la nature, la diffusion et la consommation de l'information dans notre société. La frontière entre le réel et le virtuel étant de plus en fine et les flux d'informations de plus en plus rapides, il est de notre responsabilité collective, j'en suis convaincue, d'évaluer les opportunités que le numérique présente.

S'il est une source de richesses pour nos concitoyens, en matière d'accessibilité de l'information, de développement économique et même d'apprentissage, le numérique génère toutefois de vrais défis, avec des dérives et des excès que nous devons anticiper et réguler. Les lois que nous avons adoptées pour garantir les conditions du vivre-ensemble doivent également s'appliquer sur le web et de nouvelles avancées législatives doivent sans doute intervenir pour nous adapter à un monde en constante évolution.

Notre paysage médiatique a été profondément modifié par le numérique, à travers des innovations technologiques considérables, telles que le développement de l'IA et du métavers, qui nous ouvre les portes d'un nouveau monde. C'est également l'écosystème qui a changé, par l'arrivée de nouveaux médias : les pure players et les réseaux sociaux. Nous sommes en permanence exposés à des contenus sur nos téléphones et nos ordinateurs. C'est pourquoi, comme s'y était engagé le Président de la République lors de la campagne électorale de 2022 et à la suite d'initiatives européennes et internationales, il a été décidé d'organiser des États généraux de l'information, dans le but que le droit de chacun à une information libre, indépendante et surtout fiable soit respecté.

L'objectif est d'établir un diagnostic clair et de proposer des actions concrètes. Les concertations, qui ont démarré en octobre dernier sous l'égide d'un comité de pilotage totalement indépendant, s'appuient sur les contributions de professionnels, de chercheurs, d'autorités administratives indépendantes comme l'Autorité de régulation des communications électroniques, des postes et de la distribution de la presse (Arcep) ou l'Autorité de régulation de la communication audiovisuelle et numérique (Arcom), mais aussi de citoyens. Ce sont cinquante-deux membres qui participent à ces travaux. Un cycle d'auditions parlementaires, bénéficiant de votre précieuse contribution, a eu lieu en novembre 2023.

Cinq groupes de travail planchent actuellement sur les enjeux majeurs pour le secteur : l'espace informationnel et l'innovation technologique ; le lien entre citoyenneté, information et démocratie ; l'avenir des médias d'information et du journalisme ; l'enjeu de souveraineté face aux risques d'ingérence étrangère ; et le rôle de l'État et de la régulation. La remise des conclusions des travaux des EGI est prévue à l'été 2024, et les recommandations qui seront présentées au Président de la République feront sans doute l'objet de travaux entre nous.

Je partage le constat déjà dressé et les problématiques posées. Si ce chantier était nécessaire, il est toutefois complémentaire de l'action du Gouvernement et des politiques d'ores et déjà conduites en la matière.

Dans un contexte marqué par la lutte contre la désinformation et les ingérences extérieures, comment pouvons-nous avoir confiance dans ces nouvelles sources d'information, et nous assurer que ce que nous voyons et lisons est bien exact ? Comment nous prémunir contre le risque, avéré pour notre pays, d'ingérence étrangère ? La lutte contre la manipulation de l'information fait partie de mes priorités. Tout élément de propagande, d'infox ou d'ingérence est une menace insidieuse pour notre vivre-ensemble, ainsi que pour notre modèle démocratique.

Avec le développement de l'IA, notamment générative, le déploiement des fake news devient viral et doit être contré. En juin 2022, la Commission européenne a présenté un code de bonnes pratiques renforcé contre la désinformation qui poursuit plusieurs objectifs clés : assécher les revenus publicitaires générés par la désinformation ; renforcer l'intégrité des services contre les comportements manipulateurs ; améliorer les outils à disposition des utilisateurs pour signaler ces fausses informations et intégrer tous les acteurs de la société civile dans cette lutte.

Le Parlement européen débattait aujourd'hui d'une législation européenne sur la liberté des médias, le Media Freedom Act (MFA), qui avait fait l'objet d'un accord provisoire en décembre. Ce projet de règlement devrait permettre une coopération renforcée entre régulateurs nationaux en cas de risque sérieux et grave pour la sécurité publique ou de limitation de la liberté de fournir et recevoir des services de média dans le marché intérieur. Je tiens à ce sujet à saluer le travail de Violette Spillebout dans le cadre de la mission flash sur l'éducation critique aux médias, qui a mis en avant la nécessité de mieux se former face à la désinformation.

En matière de lutte contre les ingérences étrangères et la manipulation de l'information et des publics, l'agression de l'Ukraine par la Russie a provoqué un électrochoc. À l'échelle européenne, des mesures rapides et efficaces ont été prises contre la propagande russe, en particulier diffusée par les médias affiliés de près ou de loin au Kremlin.

Depuis 2021, la France avait déjà mis en place Viginum, le service de vigilance et de protection contre les ingérences numériques étrangères sur les plateformes en ligne. En 2022, près de soixante menaces avaient été détectées à l'occasion des dernières élections, parmi lesquelles cinq cas d'ingérence numérique étrangère. Il est évident que la période électorale qui s'ouvre va accentuer ces menaces.

À la suite de cas de contournement de sanctions visant les médias, il est apparu nécessaire de doter la France d'un dispositif lui permettant de respecter ses obligations en matière d'application des sanctions et de faire cesser rapidement la diffusion d'un média sanctionné. C'est l'objet du projet de loi visant à sécuriser et réguler l'espace numérique, dit Sren, qui a été examiné par l'Assemblée nationale en septembre et octobre 2023 et doit désormais faire l'objet d'une commission mixte paritaire (CMP). Dans ce texte, la France prend les devants : l'Arcom apparaît comme l'autorité appropriée pour assurer la mise en œuvre efficace des mesures restrictives. Il sera désormais possible de faire cesser rapidement la diffusion de contenus visés par des mesures restrictives prises par l'UE, quel que soit leur canal de diffusion : télévision, radio, internet, etc. L' AI Act qui a été adopté aujourd'hui nous donnera des voies supplémentaires pour lutter contre les contenus générés par l'IA, puisqu'ils devront être identifiés.

La régulation des géants du numérique est un combat crucial pour notre souveraineté économique et notre modèle démocratique. Au cours de la présidence française de l'UE nous sommes parvenus, en 2022, à faire adopter le règlement relatif à un marché unique des services numériques ( Digital Services Act ‒ DSA) et le règlement relatif aux marchés contestables et équitables dans le secteur numérique ( Digital Markets Act ‒ DMA). C'est une avancée majeure pour le secteur, pour nos entreprises ainsi que pour l'ensemble des utilisateurs français. Comme le règlement général sur la protection des données avant eux, le DSA et le DMA, qui commencent à s'appliquer en ce début 2024, s'imposeront comme deux textes fondateurs d'encadrement et de régulation numériques.

Le DSA fait entrer les grandes plateformes dans l'ère de la responsabilité. Il leur impose des obligations de modération des contenus illicites qui leur sont signalés, leur enjoint d'analyser et de corriger le risque systémique qu'elles font peser sur le bien-être et la santé de leurs utilisateurs ou la qualité du débat public, leur interdit de proposer de la publicité ciblée sur les mineurs, et les contraint à soumettre leurs algorithmes à un audit et à ouvrir leurs données aux chercheurs. Son principe est simple, nous l'avons souvent dit : ce qui est aujourd'hui interdit dans l'espace public doit également l'être dans l'espace numérique.

Le DMA entend rétablir l'équité commerciale dans l'économie numérique et favoriser l'émergence d'acteurs français et européens. Il définit vingt-six pratiques commerciales déloyales, interdites dans les États membres, parmi lesquelles l'autopréférence, l'installation par défaut d'un navigateur, d'un moteur de recherche ou d'un assistant personnel sur un terminal, ou l'utilisation par un service d'une entreprise de données personnelles collectées sur un autre service. Croyez-moi, les sanctions économiques prévues par le texte en cas de non-respect des règles sont dissuasives : elles peuvent atteindre 10 % à 20 % du chiffre d'affaires mondial en cas de manquements répétés. L'adaptation de ces règlements européens fait l'objet du projet de loi Sren et j'espère que la prochaine CMP sera conclusive.

Il était nécessaire, au niveau national, d'avoir un cadre législatif permettant la mise en œuvre du DSA et du DMA. Par ailleurs, la France souhaite continuer à être un fer de lance au sein de l'UE, comme elle l'a toujours été, en portant des mesures toujours plus ambitieuses en matière de régulation numérique. Pour cela, le projet de loi Sren entend tout d'abord déployer le filtre antiarnaque qui, conformément à l'engagement présidentiel, servira de rempart contre les campagnes de faux SMS. Chacun de nous a déjà reçu ces fameux SMS le pressant de payer rapidement une amende. L'année dernière, dix-huit millions de Français ont été victimes de cybercriminalité et la moitié ont perdu de l'argent. Malheureusement, ce sont toujours les Français les plus fragiles ou les plus éloignés du numérique qui sont spoliés.

Le projet de loi Sren prévoit également une peine complémentaire de bannissement pour les personnes reconnues coupables de cyberharcèlement, un phénomène qui se développe massivement et qui touche principalement les femmes, à tous les âges de la vie. Cette mesure vise à mettre fin au sentiment d'impunité des responsables cachés derrière un pseudonyme pour propager leur haine en ligne.

Un point central du texte est la protection des mineurs. Le projet de loi vise à bloquer, à déréférencer et à sanctionner d'amendes lourdes les sites pornographiques qui ne vérifieraient pas l'âge de leurs utilisateurs. Deux millions d'enfants sont exposés chaque mois aux contenus pornographiques et, à 12 ans, un tiers y ont déjà eu accès. Sur le modèle de la sanction pour non-retrait de contenu à caractère terroriste, un an d'emprisonnement et 250 000 euros d'amende sont prévus pour les hébergeurs qui ne retireraient pas en moins de vingt-quatre heures les contenus pédopornographiques qui leur auraient été signalés par la police et la gendarmerie. L'année dernière, 74 000 demandes de retrait de contenus pornographiques ont été déposées – on constate l'ampleur du phénomène.

S'agissant du modèle économique de nos médias à l'ère numérique, la France a été le premier pays de l'UE, avec la loi du 24 juillet 2019 tendant à créer un droit voisin au profit des agences de presse et des éditeurs de presse, à transposer en droit national la directive sur le droit d'auteur et les droits voisins dans le marché unique numérique. La loi « droits voisins » vise à protéger les droits des éditeurs de presse et des journalistes face aux géants du numérique, tels que Google et Facebook. Elle oblige ces plateformes à rémunérer les éditeurs de presse pour l'utilisation de leurs articles et de leurs contenus en ligne. Des accords ont été conclus entre les plateformes numériques et les éditeurs de presse français pour assurer une rémunération équitable, comme en 2021 entre Google et l'Alliance de la presse d'information générale (Apig), afin que les éditeurs de presse français soient rémunérés pour l'utilisation de leurs contenus dans le Google News Showcase.

Le marché global de la publicité en ligne est un levier important de ressources pour le secteur – près de 9 milliards d'euros en 2022. Toutes les grandes marques et grands annonceurs français développent une stratégie active de communication et procèdent à des investissements massifs dans les médias numériques. Mais le secteur de la publicité en ligne est aussi caractérisé par une croissance rapide et inquiétante de la place occupée par les grandes plateformes numériques. Le trio Google, Amazon et Meta représente à lui seul près de 70 % du marché, et Apple aussi y trouve une nouvelle source de croissance. L'adoption du DMA est une première étape dans l'encadrement de ces services, en renforçant notamment la transparence sur les conditions tarifaires et les mesures d'audience, mais aussi l'accès aux données de transaction. Il faudra que nous veillions ensemble à la bonne articulation des dispositions du règlement MFA concernant les mesures d'audience avec celles du DMA.

Vous pourrez compter sur ma mobilisation pleine et entière afin de maintenir une pression politique forte sur nos instances politiques européennes et sur nos régulateurs nationaux, pour toujours mieux réguler notre espace numérique et les grandes plateformes, pour lutter contre la manipulation des contenus et protéger nos concitoyens les plus vulnérables et éloignés du numérique.

Quant à la féminisation des métiers du numérique, madame la présidente, j'en ai fait une de mes priorités. Partout dans l'économie numérique, nous avons besoin de talents féminins, mais peu de femmes sont attirées par ces métiers. Dès l'enseignement primaire et secondaire, nous devons mener des actions pédagogiques à l'attention des jeunes élèves. À l'image de Nicole Belloubet, nous portons une attention toute particulière à l'apprentissage des mathématiques, puisqu'il faut former les jeunes d'aujourd'hui, qui constituent notre vivier de demain. Aujourd'hui encore, selon un baromètre publié par Sista, une association visant à mieux intégrer les personnels féminins aux métiers de la tech, trop peu de femmes sont en situation de direction ou de création d'entreprises dans le secteur numérique. Nous avons un important travail à fournir sur le sujet. Nous y travaillons d'arrache-pied avec les associations du secteur.

Nous en venons aux orateurs des groupes.

Lancés à l'initiative du Président de la République, les États généraux de l'information visent à relever les défis posés par les innovations technologiques et les changements dans nos manières de consommer l'information. L'avènement de l'ère numérique a indéniablement bouleversé notre société. Ces changements ont eu une influence considérable sur nos manières de communiquer et d'accéder à l'information. Dans un contexte où l'information est omniprésente, la frontière entre information vérifiée et désinformation s'amenuise sans cesse. Il devient dès lors impératif de renforcer notre engagement pour une information de qualité, fiable et accessible à tous. L'enjeu crucial réside désormais dans notre capacité à instaurer un environnement numérique dans lequel la transparence prévaut. Dans ce cadre, je salue le lancement par le Gouvernement d'une telle consultation. Les députés de la majorité seront très attentifs aux conclusions des EGI.

Comment le Gouvernement envisage-t-il de renforcer la transparence et la responsabilité des plateformes numériques, afin qu'elles ne deviennent pas des vecteurs de désinformation ? Comment ces actions se concrétiseront-elles dans le quotidien des citoyens sur l'accessibilité et la qualité de l'information ?

« Demain, tous les contenus à disposition du grand public seraient fournis par l'IA générative, avec, derrière, des journalistes qui travailleraient en direct pour une espèce de ferme de production. » C'est ainsi que Pierre Pétillault, directeur général de l'Apig, exprime l'inquiétude des éditeurs de presse quant à l'expansion de l'IA générative.

En décembre dernier, le New York Times a porté plainte contre OpenAI, la société ayant créé ChatGPT, et Microsoft, son principal investisseur, pour violation du droit d'auteur. L'IA générative – ChatGPT par exemple – a besoin de brasser une masse d'informations énorme afin de s'entraîner et se perfectionner. Les éditeurs de presse en ligne sont donc les fournisseurs de sa matière première, comme le dit Emmanuel Parody, secrétaire général du Groupement des éditeurs de services en ligne, ce qui soulève un important problème en matière de respect des droits voisins du droit d'auteur.

Cela rappelle leur âpre lutte contre les géants du numérique, Google et Meta, qui, par des plateformes telles que Google Actualités ou Facebook News, captaient l'essentiel de la publicité numérique en utilisant des contenus journalistiques financés par des entreprises de presse. Ce n'est ni plus ni moins qu'une forme de prédation : exploiter les contenus des entreprises de presse en référençant les informations produites et en les mettant gratuitement à disposition des internautes. Si ce référencement génère du trafic sur les sites des éditeurs de presse, ce bénéfice est sans commune mesure avec les revenus publicitaires qu'en tirent les plateformes. Ces dernières années, les revenus des éditeurs ont été asséchés par le détournement des annonceurs publicitaires vers les plateformes numériques. Sur les dix dernières années, la presse a perdu 50 % de ses revenus publicitaires, captés à 90 % par les Gafam. Certes, des accords en matière de droits voisins ont été trouvés entre les mastodontes américains, les éditeurs et les agences de presse, mais ils sont trop souvent jugés insuffisants par ces derniers.

Quel rôle le Gouvernement compte-t-il jouer pour protéger nos éditeurs de presse et garantir notre souveraineté culturelle et numérique ?

Au cours des dernières semaines, nous avons compris que la France avait pesé de tout son poids pour, d'abord, affaiblir l'équilibre politique dans le trilogue au sujet de l' AI Act en décembre dernier, puis pour construire une minorité de blocage à l'approche de la prise de décision des États membres dans le Comité des représentants permanents début février. Si l'on en croit la presse, c'était pour protéger la start-up Mistral AI, sur les conseils avisés de l'un de vos prédécesseurs, avec pour mot d'ordre de créer les conditions d'émergence de modèles open source et de champions européens.

Or nous avons appris, sûrement en même temps que vous, que Mistral AI négociait depuis des semaines un partenariat stratégique pour commercialiser un modèle de langage fermé avec le leader mondial Microsoft. On peut évidemment se réjouir que des pépites françaises partent à la conquête de marchés internationaux, même aux côtés d'un géant américain, mais il n'est acceptable ni que la position de la France soit instrumentalisée au profit d'intérêts particuliers, de surcroît quand ces intérêts se révèlent être une posture mensongère, ni que cette posture, en plus de servir un lobbying insincère, soit financée pour partie par de l'argent public, notamment par l'intermédiaire de BPIFrance.

Pouvez-vous faire la lumière sur la nature exacte du financement public reçu par Mistral AI ?

Notre groupe veut vous interroger au sujet de l'éducation à l'information et de la prévention de la désinformation dans un contexte d'essor de l'IA. Il existe des programmes de sensibilisation aux fausses informations, que ce soit au collège ou au lycée, tels que Complots rigolos, de l'association Génération numérique, ou Hoaxbuster, de l'institutrice Rose-Marie Farinella. L'IA et l'esprit critique y sont abordés. Il semble que les jeunes générations détectent mieux les contenus photographiques mensongers générés par l'IA. Quelle est votre analyse sur ce point ? Faut-il être optimiste quant à la sensibilisation d'une génération plus habituée à l'intelligence artificielle ?

Quoi qu'il en soit, il faudra apprendre à nos jeunes à distinguer le vrai du faux en matière numérique. Comment le Gouvernement compte-t-il s'y prendre ? Si l'IA semble amorcer des chamboulements inédits dans l'économie de demain, elle est aussi porteuse de dangers, pour les Français de tous les âges. Elle peut générer des hypertrucages ou autres intox. Comment préparez-vous la lutte contre les fausses informations qui viendraient renforcer le complotisme existant et nuire à notre système démocratique ? Dans votre stratégie, quelle place ont les associations telles celles que j'ai mentionnées ? Les conclusions des EGI nourriront certainement ce travail, mais comment accompagner ces évolutions ?

Depuis bientôt un an, je coordonne à l'Assemblée nationale un groupe de travail transpartisan sur le traitement médiatique de l'urgence climatique, qui rassemble une quarantaine de députés de toutes sensibilités. Partant du constat que ce traitement n'est pas à la hauteur des défis qui nous attendent, nous étudions toutes les opportunités législatives qui permettraient de progresser, en quantité et en qualité, en nous appuyant notamment sur les travaux de l'association citoyenne Quotaclimat.

Nous avons entamé en octobre un cycle d'auditions de l'ensemble des acteurs concernés, et nous penchons particulièrement sur la question de l'information en ligne. Il ressort de ce travail que les plateformes jouent un rôle crucial pour faire progresser la conscience climatique des Français ; que les contenus sont partagés avec une grande porosité entre l'audiovisuel et les plateformes – la régulation ne doit donc pas s'arrêter aux portes d'internet ; et que la parole scientifique peine à se faire entendre sur les plateformes, où les chercheurs font face à des campagnes de désinformation et de dénigrement.

Je ne doute pas que la mise en application du DSA en début d'année apportera de premières réponses en matière de lutte contre la désinformation. Nous y serons extrêmement attentifs. Cependant, nous pensons que le traitement des enjeux écologiques sur les plateformes soulève des questions spécifiques. C'est pourquoi nous proposons d'étendre les compétences de l'Arcom au suivi de la régulation des plateformes en ligne, en nous appuyant sur le DSA et en y intégrant les enjeux écologiques. Notre groupe de travail souhaiterait connaître votre position au sujet de cette proposition, ainsi que la nature des actions que vous comptez mener dans le cadre des EGI concernant le traitement des sujets écologiques sur les plateformes.

Les enjeux autour de la liberté de l'information sont majeurs et variés. Clemenceau disait que « la liberté de presse est moins la liberté de tout écrire que la liberté de tout lire ». Cette phrase cache de nombreuses perspectives, du côté des personnes qui écrivent les informations et du côté des personnes qui les reçoivent. Ces questions essentielles qui entourent une information libre, indépendante et fiable définissent la trame des EGI. Dans votre portefeuille, qui touche davantage à la dimension technologique de l'information, les sujets sont multiples, notamment autour de l'analyse du contenu des données ou des perspectives que nous offre l'IA.

Le code de bonnes pratiques est-il suffisant pour lutter contre les fake news ? Quelles sont les autres pistes à explorer pour lutter contre toutes les formes de complotisme qui envahissent les réseaux sociaux ? Pourquoi ne pas supprimer, par exemple, l'anonymat, une mesure simple qui pourrait paraître efficace ? Quelle place donner à l'éducation et à l'analyse des informations, notamment chez les jeunes ?

Les EGI ont une mission importante : garantir l'avenir et la qualité de nos médias, en particulier face aux mutations numériques. Mais reconnaissons que cette mission est vaste et les enjeux nombreux et complexes. Le mouvement de concentration des médias au profit de plateformes numériques, se dirigeant vers un monopole, intervient dans un contexte de crise de la presse : le nombre de journalistes est en diminution. Ils sont remplacés par des chargés de contenus, avec le risque de mutualiser les rédactions et de faire reculer le travail d'investigation. Tous ces facteurs participent à un climat de défiance. Y a-t-il une volonté du Gouvernement d'avancer sur le sujet de la concentration des médias ?

La toute-puissance des plateformes est un vrai danger pour la pérennité et la qualité de notre information. S'adapter à la transition numérique, ce n'est pas seulement s'intéresser à la régulation des contenus. L'enjeu est plus vaste : il faut aboutir à un modèle économique qui garantisse des revenus suffisants aux médias et aux journalistes. En dix ans, les recettes publicitaires des médias traditionnels ont été divisées par deux ; les abonnements numériques stagnent, et l'on craint désormais que les contenus des médias soient aspirés gratuitement par l'IA générative. Le non-respect de la loi sur les droits voisins est un premier obstacle à notre action : Twitter et Microsoft refusent de signer les accords. Le Gouvernement est-il prêt à revoir notre législation en la matière ?

Je commencerai par la question de la désinformation et de la responsabilisation des plateformes. Les modèles des plateformes peuvent favoriser la diffusion à une échelle massive, virale, de contenus illicites, haineux et de désinformation. Si l'on prend l'exemple de Facebook, seulement 3 % à 5 % des discours de haine et 1 % des contenus à caractère violent ont fait l'objet de mesures de modération, selon la lanceuse d'alerte Frances Haugen et une étude interne, et les moyens de modération sont concentrés autour des contenus publiés aux États-Unis d'Amérique – 13 % des efforts de modération concernent des contenus publiés en dehors, alors que plus de 90 % des utilisateurs ne sont pas américains. Or les plateformes ne rendent pas de comptes à une autorité publique pour ce qui est des contenus mis en avant ou retirés, ce qui crée un risque évident d'atteinte à la liberté d'expression, aux droits fondamentaux et au fonctionnement de nos démocraties.

Le DSA comporte plusieurs mesures qui doivent nous permettre de placer les plateformes face à leurs responsabilités en matière de diffusion de contenus et de produits illicites ou dangereux. Le texte détermine des obligations renforcées pour les grandes plateformes, au bénéfice de tous les utilisateurs, avec des sanctions dont le montant peut atteindre 6 % du chiffre d'affaires mondial. Les plateformes devront rendre compte au régulateur des techniques et des moyens de modération qu'elles mettront en œuvre, ainsi que de leurs résultats. Elles devront également dimensionner leurs moyens de modération en fonction des risques de diffusion et les plus grandes d'entre elles devront les soumettre à des audits indépendants. Elles devront activement protéger les mineurs sur leurs interfaces, en utilisant notamment des systèmes de vérification de l'âge ou de contrôle parental. Elles devront enfin se soumettre à des obligations de transparence concernant les recommandations qu'elles font à leurs utilisateurs et les publicités qu'elles affichent.

À travers le projet de loi Sren, nous prenons les devants en matière d'ingérence étrangère et de désinformation – plusieurs dispositions y portent spécifiquement sur ces sujets. J'espère qu'une fois le texte adopté, nous serons suffisamment armés face à ce fléau.

L'éducation doit être une des cibles prioritaires des politiques publiques afin de préparer au mieux notre jeunesse à ces nouvelles technologies, avec un double souci en tête : éviter l'illectronisme parmi nos jeunes, qui vivront dans une société toujours plus numérisée, tout en gardant en tête la nécessité constante de les protéger. Donnons-leur les outils, tout en leur apprenant les bons comportements pour mieux appréhender les contenus numériques.

La mission flash de votre commission sur l'éducation critique aux médias a présenté ses conclusions en février 2023. Ses rapporteurs, Violette Spillebout et Philippe Ballard, ont conclu que si l'éducation aux médias (EMI) est aujourd'hui reconnue comme une priorité absolue et une composante de la formation à la citoyenneté, les dispositifs existants souffrent d'un trop grand éclatement, qui nuit à leur lisibilité. Le ministère de l'éducation nationale et de la jeunesse a annoncé que, d'ici 2027, tous les collégiens devront bénéficier d'une EMI renforcée, et ce chaque année. L'éducation nationale mène déjà des actions de sensibilisation, par différents canaux. Une circulaire du 24 janvier 2022 prévoit la généralisation de l'EMI, laquelle est également intégrée à la formation des enseignants. Les associations, telles que Génération numérique, proposent des choses très intéressantes. Je tiens par ailleurs à saluer l'action du Centre pour l'éducation aux médias et à l'information, qui a la charge de l'EMI dans l'ensemble du système éducatif français. C'est lui qui organise, du 18 au 23 mars prochains, la semaine de la presse et des médias dans l'école, pour apprendre aux élèves à décrypter cet univers parfois confus. Sur ce sujet, nous serons particulièrement attentifs aux conclusions des EGI, qui alimenteront nos travaux. Je tiens, enfin, à saluer les nombreuses associations qui se créent, souvent à l'initiative de journalistes, pour apprendre aux plus jeunes à décrypter l'information.

J'en viens à la question de l'IA générative et de la protection des droits d'auteur et des données, illustrée par la plainte du New York Times contre ChatGPT. L'intelligence artificielle présente plusieurs défis majeurs concernant, d'une part, notre puissance de calcul, afin de garantir que les modèles français et européens fonctionnent le mieux possible, et, d'autre part, les données utilisées. Aujourd'hui, beaucoup de modèles tournent à partir de données américaines : il y a donc un enjeu culturel majeur au niveau français et européen à ce que nos modèles fonctionnent sur la base de données françaises et européennes.

La question de la valorisation de ces données sera centrale : comment organiser cette espèce de place de marché de la donnée ? Il faudra y réfléchir à l'échelle française, mais aussi européenne. Les conclusions du rapport de la commission de l'intelligence artificielle, remis ce matin à l'Élysée, vont dans ce sens. Nous devons parvenir à organiser ce système entre les ayants droit, les auteurs et les utilisateurs de ces bases de données pour déboucher sur une juste rémunération. L'échelon européen sera le plus adapté pour organiser ce travail qui nous attend. Je ne peux pas encore vous dire précisément quelles seront les modalités de l'accord, mais une chose est certaine : la question des données est centrale pour notre modèle culturel. Il va falloir y réfléchir, et les conclusions du rapport remis ce matin seront sans doute une inspiration.

J'ai eu l'occasion de m'exprimer de manière très claire dans la presse au sujet de Mistral AI. Je viens d'entendre les mots « instrumentalisée » ou « posture mensongère », mais ils ne sont pas du tout adaptés. Lors des négociations du trilogue autour de l' AI Act, la France s'est dite favorable au développement de l'écosystème au niveau européen selon une logique open : c'est important pour que notre modèle puisse se développer et bénéficier d'une communauté et de données ouvertes. Je ne me ferai pas l'avocate d'une société en particulier, mais Mistral AI avait dès sa création annoncé avoir un modèle de développement hybride, à la fois open source et commercial. L'annonce récente concerne le volet commercial du développement de la société. D'une manière générale, lorsqu'une pépite française se place parmi les trois meilleurs mondiaux, nous devrions nous réjouir plutôt que lui taper dessus. Quoi qu'il en soit, soyez assurés que nous continuerons à défendre au niveau européen un modèle d' open AI.

Nous devons traiter les fausses informations dans leur globalité, et pas simplement quand elles relèvent du climatoscepticisme. Elles sont un fléau, aussi bien du point de vue politique qu'écologique ou de l'atteinte aux personnes. Le DSA devrait nous donner des outils de lutte. Nous devons continuer à être très vigilants en matière de modération des contenus. Par ailleurs, il faut travailler aux conséquences écologiques de l'usage du numérique. L'IA demande beaucoup d'énergie pour faire tourner ses supercalculateurs. Des technologies en cours de déploiement pourraient améliorer grandement les choses. Le développement de l'énergie nucléaire en France nous permettra aussi de satisfaire les besoins que nous aurons pour développer tous ces modèles.

Plusieurs textes nous permettent d'aborder les problèmes liés à la concentration des médias, notamment le DMA, car il nous donne un droit de regard sur les phénomènes de concentration entre plateformes : nous aurons notre mot à dire, à l'échelle européenne, sur les fusions de plateformes. Le MFA, lui, quand il sera pleinement entré en vigueur, renforcera notre regard sur les concentrations de médias.

Je considère que l'anonymat en ligne n'existe pas. Aujourd'hui, on est en mesure de retrouver les auteurs des faits : plusieurs affaires l'ont montré. Même si je sais que, selon un sondage récent, de nombreux Français seraient favorables à une forme de traçage numérique, j'ai donc une certaine prudence à l'égard de cette notion d'anonymat en ligne. Pour autant, nous sommes pleinement mobilisés afin de responsabiliser les plateformes, qui doivent nous assister dans l'identification des auteurs des faits.

En outre, il est possible, à partir de n'importe quel terminal, de se localiser en Allemagne, en Belgique ou n'importe où dans le monde : la problématique de l'anonymat en ligne ne peut donc pas être simplement traitée au niveau national. Je ne botte pas en touche, mais nous devons réfléchir à l'échelle européenne si nous souhaitons être pleinement efficaces dans ce domaine.

Nous en venons aux questions des autres députés.

Pour déposer votre demande, vous devez vous inscrire sur la plateforme en entrant votre adresse mail, votre identifiant national et votre mot de passe. Puis, sur votre téléphone, vous récupérez le code que vous copiez sur le formulaire de demande. Quand vous avez fait tout cela, une nouvelle fenêtre s'ouvre pour certifier que vous n'êtes pas un robot : vous devez cocher les images où il y a des tracteurs... C'est une anecdote, mais c'est le vécu de bon nombre d'usagers.

L'évolution vers la dématérialisation ne doit pas laisser sur le côté celles et ceux qui peinent à naviguer dans le monde numérique. C'est une préoccupation profonde de nos concitoyens les plus âgés. Depuis quatre ans, des espaces France Services doivent donner accès à tous les usagers à un service public de qualité à moins de vingt minutes de chez eux, partout en France. Pour autant, l'information sur ces dispositifs n'atteint pas toujours sa cible. La complexité des procédures, l'absence de matériel informatique personnel ou encore les difficultés d'accès à l'internet à haut débit sont des obstacles rencontrés par plus d'un quart des personnes âgées dans leurs démarches numériques. Cela entraîne un profond sentiment d'exclusion et plus d'un senior sur sept abandonne ses démarches face à ces difficultés – le double chez ceux qui sont en difficulté financière. S'y ajoute la question de l'illectronisme parmi les jeunes. Qu'envisage votre ministère pour mieux accompagner nos aînés dans leur quotidien ?

L'ensemble des pays de l'UE ont validé l' AI Act. Grâce à lui, des obligations s'imposeront à tous pour assurer la qualité des données utilisées pour nourrir les algorithmes et le respect du droit d'auteur. La question de la transparence inquiète véritablement le secteur culturel : l' AI Act consacre des avancées que l'on espère voir intégrer au droit français, et le groupe Les Républicains y sera particulièrement attentif.

À la suite de l'adoption du texte, un comité scientifique d'experts indépendants conseillera le bureau de l'IA. La France sera-t-elle représentée au sein de ce comité ? Quelle place sera accordée aux représentants des industries culturelles, qui se sont battues pour que la transparence figure en bonne place dans l' AI Act., afin de s'assurer de sa bonne mise en œuvre ?

Le déploiement de la fibre optique est un enjeu de premier plan pour les habitants de nos communes et le développement économique de nos territoires. Je suis avec beaucoup d'intérêt et d'exigence les retards de déploiement dans ma circonscription, et ce d'autant plus que Grand Besançon Métropole fait partie des cinquante-cinq établissements publics de coopération intercommunale (EPCI) qui connaissent le plus de retard en matière de raccordement. Je sais que les maires et les habitants des communes concernées par le problème seront très attentifs à mon intervention et je salue les communes de Mazerolles-le-Salin, Osselle-Routelle ou Pugey, le centre-ville de Besançon et les quartiers Velotte et Vallières.

Votre prédécesseur, Jean-Noël Barrot, m'avait informé fin décembre qu'un accord avait été trouvé entre l'État et Orange pour un rattrapage prioritaire et vous avez signé hier un accord avec l'opérateur pour accélérer le déploiement dans les agglomérations les plus en retard. Quels sont les engagements de l'opérateur Orange ? Comment comptez-vous vous assurer que le raccordement des communes concernées soit effectivement une priorité ?

Pour votre prédécesseur, l'IA générative incarnée par ChatGPT n'est qu'un « perroquet approximatif ». Ce type de logiciel soulève de nombreuses questions, au premier rang desquelles celle de la propriété intellectuelle. L'intelligence artificielle génère effectivement des textes ou des images à partir de créations originales, ayant servi de données d'entraînement. Il s'agit donc de créer à partir d'autres créations – mais alors, que vaut l'idée de création ? Les géants du web semblent trouver là l'occasion de réduire les créateurs de contenus, dont les journalistes, à des auxiliaires. L'exception culturelle française a pourtant toujours eu pour objectif de protéger les créateurs, source de toute matière artistique et intellectuelle. Face au défi de l'IA générative, nous devons défendre le droit d'auteur, notamment celui de nos médias d'information.

Ne pensez-vous pas qu'il faille imposer les droits voisins aux applications d'IA entraînées à partir de données relevant de la propriété intellectuelle ?

Les droits d'auteur concernent non seulement les journalistes, mais aussi les écrivains ou auteurs de bandes dessinées. L' AI Act. prévoit que les développeurs devront garantir que les sons, images et textes soient bien identifiés comme artificiels, mais comment cela peut-il se traduire concrètement ? Si un filigrane apparaît sur le document produit par l'IA, rien n'empêche de recopier l'article sur un nouveau document, sans filigrane. C'est un nouveau paradigme qui s'ouvre, dans lequel le droit d'auteur risque d'être très exposé. Comment dès lors le protéger ?

Il sera nécessaire, à un moment donné, de garantir que l'on pourra encore envoyer un document papier aux administrations. Les concitoyens en difficulté face au numérique qui viennent dans nos permanences n'ont parfois même pas d'adresse postale où envoyer un courrier !

Le DSA permet d'encadrer les grandes plateformes et de mieux protéger les internautes européens contre les contenus illicites, dangereux et préjudiciables. Chaque État membre de l'UE a désigné un coordinateur des services numériques ; en France, il s'agit de l'Arcom.

Dans un rapport publié en juillet dernier, soit un mois avant l'entrée en application du DSA, l'Arcom évoquait la modération des plateformes numériques, opérée par des humains. Elle a demandé à chaque plateforme combien de modérateurs francophones traitaient les signalements en matière de haine en ligne. Meta, Pinterest, Snapchat et TikTok ont répondu, mais ont refusé que les informations soient rendues publiques ; quant à Google, il n'a fourni aucune donnée. Il s'agit d'un véritable tabou. Le DSA obligera-t-il les plateformes numériques à communiquer ces chiffres ? Quel est votre rôle, ou celui de l'Arcom, pour pouvoir obtenir des réponses ?

Le numérique concerne également la santé. Ne faudrait-il pas commencer à accélérer la collecte des données de santé, à mieux les homogénéiser à l'échelle du territoire, et à réussir, enfin, à mieux les protéger ? C'est tout à fait essentiel pour le patient, mais aussi, à une autre échelle, pour notre économie et notre industrie. Par ailleurs, avez-vous des informations sur l'accès à un cloud souverain, français ou européen ?

Je reviens sur les raisons pour lesquelles l'urgence écologique mérite un traitement spécifique. Je rappelle que la France a pris des engagements forts en la matière, et que notre trajectoire suppose d'embarquer l'ensemble de la population si nous souhaitons tenir nos objectifs. C'est pourquoi j'insiste autant sur ce sujet. Les fake news qui circulent sur les plateformes contribuent à limiter l'implication de nos concitoyens, voire à leur désengagement. Je réitère donc ma question sur l'intérêt d'étendre les compétences de l'Arcom aux enjeux écologiques.

Le sujet de l'inclusion numérique est de la plus haute importance. J'avais insisté sur ce point lors de mon discours de passation de pouvoir, puisque nous constatons des problèmes en la matière sur le territoire. Les personnes âgées ne sont d'ailleurs pas les seules concernées : le degré d'exclusion numérique varie selon les catégories sociales. Assurer un accès au numérique au plus grand nombre est une de nos premières missions.

Depuis 2021 nous avons développé le volet « inclusion numérique » du plan France relance, qui a pour objectif de former plus 20 000 aidants numériques sur l'ensemble du territoire. Nous en sommes à un peu plus de 18 000 aidants formés, avec la difficulté de les maintenir opérationnels : ce sont des postes avec une forte rotation, ce qui nous oblige à être en veille pour former sans cesse de nouveaux aidants. En outre, près de 4 000 conseillers numériques sur le territoire ont pour rôle d'accompagner, mais aussi d'autonomiser nos concitoyens. Si l'on ne fait qu'accompagner nos concitoyens sans leur donner les clés pour être complètement autonomes, alors on manque le but. Ces conseillers numériques sont donc là pour former nos concitoyens. Il existe également un partenariat entre l'opérateur de compétences Uniformation et l'Agence nationale de la cohésion des territoires pour financer la formation de personnels du secteur associatif, qui sont en première ligne pour accompagner les publics. Leur formation passera aussi par la poursuite du déploiement d'Aidants Connect, service public numérique permettant aux personnes en difficulté d'accéder aux démarches en ligne.

Mais la question de l'inclusion recouvre aussi, outre le sujet de l'utilisation des outils numériques, celui de l'accès au numérique, et donc de l'aménagement du territoire. Le plan France très haut débit et le New Deal mobile sont essentiels, car le défaut d'accès à une offre de fibre ou de téléphonie permettant de naviguer sur internet crée un sentiment de déclassement très fort parmi nos concitoyens.

On peut se réjouir que la France soit dans le peloton de tête européen en matière de déploiement de la fibre : 84 % du territoire est fibré. Depuis deux ans pourtant, on observait un retard dans le déploiement des infrastructures, qui s'accentuait et devenait inacceptable. L'année dernière, Orange a été sanctionnée pour un retard de déploiement dans la zone dite Amii (appel à manifestation d'intention d'investissement). Des négociations ont été ouvertes par Jean-Noël Barrot, qui ont abouti à l'accord que j'ai pu signer hier à Dunkerque.

Deux options étaient envisageables : sanctionner à nouveau Orange, ce qui aurait ouvert un débat contradictoire empêchant d'accélérer le processus, ou négocier un nouveau cadre permettant d'obtenir de nouveaux avantages pour nos concitoyens et d'élargir la zone. L'accord signé hier nous permettra, en zone Amii, d‘accélérer à nouveau le déploiement, conformément aux engagements du Président de la République : 1 120 000 logements et locaux professionnels devront être fibrés très rapidement, et Orange devra rattraper le retard des cinquante-cinq EPCI que vous avez évoqués avant la fin de l'année – ce qui représente près de 140 000 locaux – de manière à reprendre un rythme normal. Orange n'a pas attendu la signature de l'accord pour avancer et sa directrice générale m'a confirmé hier que depuis juillet 2023, 78 000 locaux sur les 140 000 concernés avaient déjà été fibrés.

Cet accord inclut par ailleurs les zones dites très denses (ZTD). Ces dernières, en raison de l'importance du marché, étaient dérégulées et soumises à la libre concurrence mais on y observait également un ralentissement du déploiement. Certains de vos collègues de la couronne parisienne m'avaient interpellée à ce sujet. Orange, dans le cadre de cet accord, s'est donc engagée à assumer la moitié de l'effort à réaliser pour porter le taux de couverture en ZTD de 92 % actuellement à 96 %. Ce pourrait être aussi de nature à stimuler les autres opérateurs.

Troisième volet de cet accord, plus politique, et bénéfique aussi en matière d'inclusion numérique : une tarification sociale, qui sera maintenue par Orange pour les abonnements à la fibre – de mémoire autour de 15,90 euros. Par ailleurs, certains usagers, plutôt âgés, titulaires d'un simple abonnement téléphonique cuivre rechignent à passer à la fibre par peur d'un surcoût. Orange s'est engagée à maintenir leur tarif inchangé s'ils souscrivent à un abonnement fibre.

Bref, cet accord ne remet pas en cause la complétude de nos installations et permettra d'améliorer l'inclusion numérique pour de nombreux concitoyens.

S'agissant des droits voisins, il existe un cadre spécifique concernant le marquage des productions de l'intelligence artificielle, pour être en mesure d'identifier un contenu produit ou non par une IA. L' AI Act. comporte des mesures qui obligeront les producteurs de contenu à permettre une détection des contenus générés par l'IA. En la matière, les technologies évoluent très vite. Aujourd'hui existe la technique dite des filigranes, ou watermarking, qui consiste en une sorte de tatouage numérique pour différencier les contenus dits synthétiques. Mais les signes visibles ne sont pas toujours robustes : ils peuvent être cassés, et le contenu peut être dupliqué sans marquage. Parmi les nouveaux développements en cours, il y a le marquage cryptographique – qui est lié dans une image aux pixels, ou dans un son à l'empreinte sonore. Mais ces nouvelles technologies propriétaires ne sont pas open source. Un travail pressant nous attend, en particulier pour la création d'un standard, encouragée d'ailleurs à l'échelle européenne par l' AI Act..

La santé est, avec la justice, le domaine sur lequel l'IA générative aura l'impact le plus fort. Nous y portons donc une attention particulière. On observe des développements importants en matière de médicaments ou de chirurgie cardiaque. Plusieurs sociétés françaises proposent déjà des solutions intéressantes et nous souhaitons les accompagner. Mais au-delà se pose évidemment la question des données de santé. Nos modèles d'entraînement de l'IA ont besoin de ces données pour progresser rapidement. Je souhaite que l'accès à ces données soit facilité, mais je comprends aussi la crainte de nos concitoyens en la matière. Un travail fin est à mener sur le sujet, et vous avez dû entendre parler des travaux du Health Data Hub.

Le rapport remis ce matin par la commission de l'intelligence artificielle contiendra sûrement des propositions en ce sens. Si nous parvenons à ouvrir l'accès à ces données, alors se posera la question de leur stockage et de leur protection, qui se fera évidemment par un cloud souverain. La France défend une position singulière sur le sujet, puisqu'elle dispose d'un référentiel en la matière, SecNumCloud, plus sûr que ce que pratiquent nos collègues européens. C'est un référentiel que nous aimerions promouvoir à l'échelle européenne. Des discussions intenses sont en cours avec nos partenaires.

S'agissant des compétences de l'Arcom, cette dernière nous a fait une proposition de référentiel, bientôt soumise à consultation publique, qui contient des mesures propres à l'écologie. Mais, je le répète, je pense qu'il est préférable de ne pas se restreindre à un champ particulier, aussi important soit-il : c'est l'ensemble des fausses informations circulant sur internet qu'il faut traiter.

S'agissant du nombre de modérateurs en français, si les plateformes refusent de communiquer, des sanctions pourront être prises et nous veillerons à leur application. En l'état, les effectifs qui y sont consacrés sont de 226 personnes pour Meta, 687 pour TikTok, 52 pour X et 250 pour Snapchat.

Merci pour vos réponses. Le numérique prend une part importante dans nos vies et, entre l'aménagement du territoire, la lutte contre l'illectronisme, l'accès aux données et la promotion de la qualité de l'information, votre secrétariat d'État joue un rôle majeur pour notre démocratie.

Je vous remercie de votre invitation. Pardon pour le terme, mais considérez-moi comme votre hub en matière de numérique : mes équipes et moi nous ferons un plaisir de répondre à toutes vos questions.