Intervention de Jean-Noël Barrot

Des réflexions sont en cours, madame Calvez, pour trouver comment les créateurs de contenu, en particulier les journalistes, les artistes et les auteurs, pourraient être dûment rétribués. Lorsque j'ai rencontré, au début du mois de janvier, Sam Altman, le fondateur de l'entreprise OpenAI, qui a développé certains de ces systèmes de dialogue, je lui ai expliqué que nous étions face à une question de justice, mais aussi d'efficacité. S'ils ne sont pas rétribués, les créateurs d'œuvres ou de contenus originaux refuseront de les mettre à disposition pour l'entraînement de ce type d'outil. Il en a convenu. Aux États-Unis, des procédures judiciaires ont d'ailleurs été engagées par des organismes représentant la presse à l'encontre d'OpenAI. Au niveau européen, les négociations du règlement sur l'intelligence artificielle sont entrées dans la dernière ligne droite. Si elles devaient ne pas aboutir, nous pourrions éventuellement anticiper certaines dispositions en droit français.

Je ne sais pas quels sont les titulaires d'une œuvre créée avec l'intelligence artificielle. Est-ce que ce sont les concepteurs du logiciel ou ses utilisateurs ? Un partage des droits est-il envisageable ? Ces questions sont probablement trop récentes pour avoir des réponses définitives. Nous devons en revanche y réfléchir ensemble.

Pour répondre à Mme Blanc, je ne peux pas résumer en une phrase notre vision concernant le numérique et l'éducation, sachant en outre que je partage cette compétence avec le ministre de l'Éducation nationale et la ministre de l'Enseignement supérieur et de la recherche.

Plutôt que de considérer le numérique comme un obstacle et de chercher à l'exclure de l'école ou de l'université, ou, à l'inverse, de considérer qu'il faudrait en généraliser l'usage et tout basculer sur les tablettes, je crois que nous devons essayer de comprendre comment il peut renforcer les apprentissages et comment il peut les affaiblir.

Il est essentiel de développer l'esprit critique des élèves face au nouvel espace informationnel dans lequel ils devront, en tant que citoyens, évoluer. Des progrès doivent également être réalisés concernant la maîtrise des outils, afin de les utiliser à bon escient et de ne pas les subir. De ce point de vue, les annonces du ministre de l'Éducation nationale sur l'apprentissage du code dès la classe de cinquième, le retour des mathématiques pour tous en terminale ou la création de nouveaux bacs professionnels consacrés au numérique, constituent des avancées.

Certains usages du numérique sont nocifs ou toxiques. Un écran peut être un formidable outil d'apprentissage s'il est utilisé de manière active, pour développer la créativité. Il peut toutefois devenir un vecteur d'abêtissement lorsqu'il est utilisé de manière passive. À l'école et à l'université, nous devons donc être vigilants et concentrer le « temps de cerveau humain disponible » sur les usages les plus bénéfiques du numérique.

Je partage l'avis de Mme Amiot s'agissant des monopoles qui, dans l'économie numérique, abusent de leur position dominante et placent nos entreprises dans une situation de dépendance et d'assujettissement. Il faut mettre fin à la loi du plus fort et libérer nos entreprises de leur joug ou, si je puis m'exprimer ainsi, de leurs « chaînes numériques ». Il s'agit de l'objectif poursuivi par un autre règlement adopté pendant la présidence française de l'Union européenne.

Le règlement sur les marchés numériques (DNA) introduit certainement l'une des régulations commerciales les plus importantes depuis le début du siècle. Il reconnaît l'existence de pratiques commerciales déloyales et, plutôt que de les laisser être constatées et éventuellement sanctionnées a posteriori par des autorités de la concurrence, érige des interdictions administratives a priori. L'économie numérique va si vite que lui imposer les mêmes délais qu'aux autres secteurs causerait trop de dégâts.

Le texte fixe vingt-six nouvelles obligations et interdictions, qui correspondent à des pratiques commerciales déloyales, aux géants du numérique. S'ils ne s'y conforment pas, les amendes peuvent atteindre 10 % du chiffre d'affaires, voire 20 % en cas de récidive. Ainsi, il sera désormais interdit de vendre dans l'Union européenne un smartphone dans lequel un navigateur, un moteur de recherche ou un assistant personnel est préinstallé. Procéder ainsi revient en effet à fermer l'accès au marché à tous les autres fournisseurs. De même, les entreprises qui proposent un moteur de recherche ne pourront plus privilégier les services qui appartiennent à leur périmètre d'activité dans l'affichage des résultats, car ce type de pratique pénalise leurs concurrents.

Dans le projet de loi que je présenterai demain, nous appliquons le même principe au secteur du cloud. Celui-ci est détenu par trois acteurs, qui se partagent 70 % du marché et qui, par des pratiques déloyales, rendent les entreprises françaises et européennes dépendantes de leurs services. Cette situation pose un problème de souveraineté, qui, avec Bruno Le Maire, nous mobilise pleinement.

S'agissant de la question de Mme Meunier, la décision de l'homologue italienne de la Commission nationale de l'informatique et des libertés (Cnil), la Garante per la protezione dei dati personali, nous renvoie à l'un des sujets les plus préoccupants que nous devons régler concernant l'intelligence artificielle générative.

La Cnil italienne a relevé deux difficultés. La première concernait le traitement des données des utilisateurs de ChatGPT – je sais que ce n'est pas lui qui a rédigé votre question, madame la députée ! –, qui étaient conservées dans des conditions qui n'étaient pas conformes aux principes du RGPD. Les corrections étaient faciles à apporter et, grâce à l'intervention de la Cnil italienne, ces problèmes ont été en partie résolus.

La seconde reste en revanche en suspens. Si nous voulons développer ce type d'outils en Europe, plutôt que de les emprunter à d'autres puissances, nous devons trouver une solution pour rendre l'utilisation de grands échantillons de données compatible avec le RGPD et avec notre conception de la protection des données personnelles. Ceux-ci sont en effet indispensables au fonctionnement de l'intelligence artificielle.

Je ne pense pas que nous devons avoir une lecture rigoriste du RGPD, comme semblait vouloir le faire la Cnil italienne, et interdire le développement de l'intelligence artificielle en Europe. Une telle approche me paraît insensée. Nous devons au contraire essayer de trouver un équilibre entre innovation et régulation, en mobilisant des moyens techniques et technologiques d'une part, en faisant évoluer notre cadre réglementaire d'autre part. Nous fêtons cette année le cinquième anniversaire du RGPD, qui a donc été conçu bien avant l'émergence de l'intelligence artificielle générative.

Pour répondre à Mme Folest, le modèle d'affaires des plateformes pose effectivement des questions très préoccupantes concernant la santé des enfants. Leur intérêt pour ce public devrait toutefois être considérablement réduit par l'interdiction de la publicité ciblée sur les mineurs, prévue dans le règlement sur les services numériques. Il faudra certainement aller plus loin et analyser les pratiques commerciales de ces opérateurs. L'Autorité de la concurrence a d'ailleurs rendu une décision la semaine dernière, qui indique que Meta se livrait à des pratiques anticoncurrentielles, afin de préserver les profits associés à ses activités publicitaires. Nous devons donc avancer parallèlement au DSA, notamment avec la proposition de loi de Laurent Marcangeli, qui a été adoptée par l'Assemblée nationale et qui est inscrite à l'ordre du jour du Sénat la semaine prochaine.

S'agissant de la question de Mme Keloua Hachi, je crois que Parcoursup constitue un très bon exemple des forces et des faiblesses du numérique. Le fonctionnement de son algorithme n'a pas été compris, ce qui est très dommageable lorsqu'il est question d'un service public. Des corrections doivent donc être apportées à l'outil, y compris pour résoudre les éventuels problèmes de respect de la vie privée. Le système a toutefois de grands mérites. Avec le nouveau dispositif InserSup, les élèves pourront connaître le taux d'insertion dans l'emploi et le taux de continuation vers une autre formation de chacune des formations qui les intéressent. Ces indicateurs vont être insérés dans Parcoursup et permettront aux jeunes de faire leurs choix en ayant conscience des débouchés réels des formations proposées.

La question de Mme Carel portait sur le cyberharcèlement. Le DSA va harmoniser les pratiques au niveau européen. Certaines plateformes ont également commencé à déployer des processus de signalement et de retrait des contenus lorsqu'ils leur sont signalés, notamment parce que la France leur a imposé des règles de modération dans le cadre de la loi Avia et de la loi confortant le respect des principes de la République.

Le cyberharcèlement se propage comme un incendie sur les réseaux sociaux. Il est parfois lancé par des internautes qui se protègent – ou se croient protégés – derrière des pseudonymes, mais il peut aussi être l'œuvre d'internautes qui ont pignon sur rue et qui embrasent leur communauté pour déclencher des raids contre des victimes désignées. Le projet de loi que je présenterai demain au Conseil des ministres reprend une proposition issue des discussions que nous avons eues, dans le cadre du Conseil national de la refondation, avec des créatrices de contenu – que l'on appelle parfois les « streameuses » –, et des plateformes. Elles nous ont indiqué que lorsque leurs comptes sont suspendus, ces mêmes personnes se réinscrivent sur le réseau social concerné ou sur d'autres réseaux sociaux.

Avant d'évoquer la mesure proposée dans le projet de loi, je voudrais rappeler que la loi d'orientation et de programmation du ministère de l'Intérieur, défendue par Gérald Darmanin, va permettre le dépôt de plainte en ligne ou accompagné d'un avocat. Des kits de sensibilisation au cyberharcèlement seront en outre distribués aux forces de l'ordre, comme la Première ministre l'a annoncé à l'occasion de la Journée internationale des droits des femmes du 8 mars. Par ailleurs, la loi d'orientation et de programmation du ministère de la Justice devrait permettre, en accordant des moyens supplémentaires à la justice, d'accélérer les enquêtes et de condamner les agresseurs, comme nous l'avons vu dans les affaires de Mila ou d'Eddy de Pretto.

La mesure que nous proposons s'apparente à ce qui est, dans un autre domaine, une interdiction de stade. Elle permettra aux juges de prononcer une peine complémentaire d'interdiction de réinscription sur le réseau social concerné pendant une période de six mois. Elle ne résoudra pas tous les problèmes de cyberharcèlement mais, pour les « chefs de meute » qui s'affichent fièrement comme étant des cyberharceleurs, elle pourra avoir une vertu dissuasive, en affectant directement leur communauté et leur notoriété.

Jean-Claude Raux m'a interrogé sur l'empreinte environnementale et sociale de l'intelligence artificielle. Je reconnais que ces deux sujets ne sont pas encore totalement pris en compte, même si le devoir de vigilance, dont le principe a été adopté au niveau européen, devrait progressivement permettre de les traiter.

Nous disposons désormais de chiffres concernant l'empreinte carbone du numérique. Elle représente 2,5 % de l'empreinte carbone du pays et a vocation à augmenter dans les prochaines années si nous n'agissons pas. Elle provient à 80 % des équipements et de leur fabrication. Pour la contenir à son niveau actuel en 2030, soit 17 millions de tonnes d'équivalent carbone, il nous suffirait de conserver nos smartphones, tablettes, ordinateurs et téléviseurs deux années supplémentaires.

Enfin, pour répondre à Béatrice Descamps, la désinformation constitue effectivement un problème majeur. Le règlement sur l'intelligence artificielle anticipait presque l'apparition des hypertrucages, puisqu'il impose de mentionner qu'une intelligence artificielle a été sollicitée pour la fabrication d'une image. Toutefois, compte tenu de la facilité à créer de fausses images et de leur prolifération, nous serons peut-être obligés de revoir le cadre dans lequel nous régulons et sanctionnons ces montages dans notre droit national.