. – Monsieur le président de l'Office parlementaire d'évaluation des choix scientifiques et technologiques (OPECST), Madame et Monsieur les co-présidents de la Commission de l'intelligence artificielle, chers collègues députés et sénateurs, avec l'apparition de ChatGPT il y a un an et demi, le grand public a pris conscience de ce que les spécialistes savaient et disaient déjà : l'intelligence artificielle (IA) est une rupture technologique majeure, une innovation qui pourrait bouleverser tous les secteurs, comparable en cela à la machine à vapeur, à l'électricité ou à l'internet, et avec l'IA générative et les grands modèles de langage, cette révolution vient de s'accélérer.

L'OPECST et la délégation sénatoriale à la prospective, à travers leurs travaux, ont également pris conscience de cette accélération inévitable.

Nous sommes aujourd'hui réunis pour entendre Philippe Aghion, économiste de l'innovation, et Anne Bouverot, présidente du conseil d'administration de l'École normale supérieure, nous présenter les conclusions du rapport établi par la Commission de l'intelligence artificielle, installée en septembre 2023 par la Première ministre de l'époque.

Ce rapport a été remis au Président de la République il y a deux semaines. Nous sommes très fiers que vous puissiez aujourd'hui en faire la présentation devant les parlementaires, dans le cadre de cette audition publique.

Ce rapport était très attendu par de nombreux acteurs. Il a par exemple été discuté ce matin par la REF Numérique du Medef, qui a notamment relevé le montant des investissements recommandés pour permettre à la France de prendre le tournant de l'IA. Nous pourrons évoquer ensemble ce sujet, qui soulève également des enjeux de soutenabilité des finances publiques.

La délégation sénatoriale à la prospective, qui n'a pas d'équivalent à l'Assemblée nationale, a fait collectivement le choix de s'intéresser plus particulièrement cette année aux usages de l'IA et notamment à la manière dont elle pourrait transformer le service public. Dans cette optique, nous avons déjà auditionné le co-président du Conseil national du numérique, Gilles Babinet.

Nous sommes convaincus que l'IA peut rendre le service public plus efficace, mais aussi plus humain. À la lecture de votre rapport, il apparaît cependant qu'il faudra « accélérer, amplifier, généraliser et décliner par service public la mobilisation des administrations publiques autour de l'IA ».

La délégation a, elle aussi, retenu cette approche thématique. Le premier rapport de notre série sur l'IA portera sur les impôts, les prestations sociales et la lutte contre la fraude. Il sera présenté la semaine prochaine par Sylvie Vermeillet et Didier Rambaud. D'autres rapports suivront sur les enjeux de l'IA vis-à-vis de la santé, de l'éducation, de l'environnement et des territoires.

Ces réflexions permettront de développer une approche transversale, en mobilisant différentes instances du Sénat. Le Groupe d'amitié France-États-Unis procède, en ce moment même, à une audition sur le sujet. Pascale Gruny et Ghislaine Senée sont également présentes parmi nous ce jour pour la délégation sénatoriale aux collectivités territoriales.

Aujourd'hui, nous souhaiterions connaitre votre vision d'ensemble des enjeux liés à l'IA, vous qui estimez nécessaire de « relever le défi de l'IA », sous peine de perdre la « maîtrise de notre avenir », et appelez de vos vœux « une mobilisation collective, massive, sans délai et au long cours ». Comment faire et par où commencer ? Nous vous interrogerons également sur les enjeux financiers associés, ainsi que sur les enjeux liés aux données, avec en point de mire la question du rôle de la Cnil.

. – Madame la présidente de la délégation à la prospective, Madame et Monsieur les co-présidents de la Commission de l'intelligence artificielle, chers collègues députés et sénateurs, pour relever le défi de l'IA, il conviendra de faire des choix. Faudra-t-il développer des modèles ouverts ou bien fermés ? La régulation mise en œuvre devra-t-elle porter sur la technologie ou bien sur les usages de l'IA ? La France aura-t-elle besoin de sa propre infrastructure de calcul ou pourra-t-elle s'appuyer sur une offre privée, éventuellement étrangère ?

Ces choix avant tout technologiques ont conduit l'OPECST, présidé en alternance par un député ou un sénateur, à s'intéresser au sujet. En effet, les décisions politiques appelées à forger notre avenir dépendent fortement de notre capacité à saisir les possibilités et les limites de chacune des technologies, dans le domaine de l'IA comme dans celui de l'énergie.

L'OPECST a déjà publié plusieurs travaux sur le thème de l'IA. C'est d'ailleurs à un ancien président de l'Office, Cédric Villani, que nous devons la première formulation, dès 2018, de notre stratégie nationale en matière d'IA. Aujourd'hui, l'accélération spectaculaire du développement de l'IA, avec l'essor de l'IA générative, la diffusion massive de la technologie, l'augmentation de la consommation énergétique associée et un afflux sans précédent de capitaux, nous impose d'adapter cette stratégie. Tel est précisément le mandat confié par le Gouvernement à la Commission de l'intelligence artificielle.

Pour adapter notre stratégie, il nous faudra prendre toute la mesure des technologies de l'IA, d'où la saisine de l'OPECST par les bureaux de l'Assemblée nationale et du Sénat. Nos rapporteurs Huguette Tiegna, Alexandre Sabatou, Corinne Narassiguin et Patrick Chaize y travaillent.

Notre démarche sera complémentaire à celle de la délégation sénatoriale à la prospective. L'un des enjeux majeurs que nous partagerons sera celui de la sensibilisation de nos concitoyens, pour éviter les fantasmes autour de l'IA – certains voyant dans l'IA un risque de chômage de masse et de remplacement des humains ; d'autres y voyant au contraire un remède miracle et la source d'une croissance magique. Il nous faudra promouvoir la connaissance de l'IA, pour être moins dans la science-fiction et davantage dans l'action.

. – Mesdames et Messieurs les députés et sénateurs, la Commission de l'intelligence artificielle a été constituée, en septembre 2023, de 15 experts, assistés de 15 rapporteurs. Dans le cadre de nos travaux, nous avons auditionné plus de 600 personnes. Nous avons mené une consultation nationale grâce à l'application Agora, auprès d'environ 7 000 personnes. Nous avons également échangé dans le cadre de réunions plénières, tous les vendredis au Collège de France. Je salue l'engagement très fort de toutes les personnes ayant contribué à ce travail collectif.

À partir de cette matière, notre rapport a été conçu pour être à la fois pédagogique, didactique et consommable de différentes manières, avec un résumé, des chapitres consacrés aux différents sujets d'intérêt – l'éducation, la culture, la puissance de calcul, etc. – et un ensemble de recommandations.

Vous l'avez souligné, l'IA est une révolution technologique, qui progresse à une vitesse sans précédent. Il a fallu 5 jours à ChatGPT pour obtenir 1 million d'utilisateurs. Or il avait fallu 2,5 mois à Instagram et 3,5 ans à Netflix pour obtenir le même nombre d'utilisateurs. Ce développement rapide nous impose de réagir rapidement.

Le rapport produit en 2018 par Cédric Villani était d'une excellente qualité. Nous avons d'ailleurs échangé avec lui dans le cadre de nos travaux. Cependant, nous sommes désormais appelés à franchir une autre étape. Nous pensons qu'il faudra pour cela aller plus vite et investir davantage.

Dans cette révolution extrêmement rapide et sans précédent, la France et l'Europe ne font pas la course en tête. Les États-Unis ont d'ores et déjà une économie du numérique deux à trois fois plus importante. La Chine met en œuvre des plans d'investissement massifs et à long terme. L'Arabie saoudite vient d'annoncer un projet d'investissement de 40 milliards dans le domaine de l'IA. Des initiatives significatives, privées et publiques, sont ainsi lancées à travers le monde.

Comme toute technologie, l'IA est porteuse de risques, sociétaux et environnementaux notamment. Il semble donc important de nous pencher dès à présent sur ces risques, pour pouvoir les maîtriser collectivement. Vis-à-vis des réseaux sociaux, nous n'avons pris conscience que tardivement de certains risques. L'enjeu est d'éviter de reproduire ce schéma avec l'IA.

En parallèle, l'IA est également une source d'opportunités, que nous nous sommes efforcés de mettre en évidence, avec un optimisme raisonné. Il y a là pour la France un véritable potentiel de croissance, de création d'emplois et de bénéfices sociaux et sociétaux.

Avant de présenter nos recommandations, je laisserai le soin à Philippe Aghion de détailler le travail réalisé par notre commission, au travers d'études inédites et très éclairantes, sur l'impact économique et sur le travail de l'IA.

. – La révolution de l'IA, et son accélération avec le développement de l'IA générative, suscitent à la fois de la crainte et de l'espoir. La crainte est que cette révolution détruise massivement des emplois, en rendant l'humain redondant dans un nombre sans cesse plus grand de tâches, et concentre le pouvoir et les richesses dans quelques mains. L'espoir est que l'IA nous permette enfin de sortir d'une croissance atone.

La crainte d'une IA génératrice de chômage et d'inégalités vient du constat d'une utilisation possible de l'IA pour automatiser, en partie ou totalement, la production d'un certain nombre de tâches, parfois de manière totalement inédite (conduite de véhicules, génération d'images, synthèse de notes et de sujets, traduction, doublage de films, etc.). Cette automatisation semble pouvoir concerner beaucoup d'emplois existants.

L'espoir est que l'IA permette non seulement d'automatiser en partie la production de biens et de services, comme l'ont fait avant elle les moteurs à combustion, l'électricité et les semi-conducteurs, mais permette aussi d'automatiser un certain nombre de tâches utilisées dans la production d'idées, pour améliorer et accélérer l'innovation et la recherche. L'IA facilite l'imitation et l'apprentissage. Elle peut s'auto-améliorer et permet de traiter des problèmes complexes. Elle représente donc un outil extraordinaire de recherche, avec des opportunités de croissance associées.

Dans notre rapport, nous avons considéré que l'IA ne devait susciter ni excès de pessimisme, ni excès d'optimisme. Nous n'avons ainsi anticipé ni chômage de masse, ni accélération automatique de la croissance.

Pour mesurer l'impact de l'IA sur l'emploi, nous avons réalisé une étude inédite, sur un large échantillon d'entreprises françaises fourni par l'Insee. Avec un recul de 3 ou 4 ans, cette étude a mis en évidence que, globalement, les entreprises ayant adopté l'IA étaient créatrices nettes d'emplois. L'effet de productivité généré par l'IA, améliorant la compétitivité et accélérant le développement des entreprises, est ainsi apparu l'emporter sur l'effet de substitution à la force de travail.

Cet effet globalement positif est apparu masquer des disparités en fonction des métiers. Les entreprises ayant adopté l'IA pour la gestion administrative ou le marketing ont notamment semblé voir leurs emplois dans ces domaines diminuer. Dans les professions intermédiaires, administratives ou commerciales, des emplois seront menacés par l'automatisation permise par l'IA. Une politique d'adaptation du marché du travail et de formation sera donc nécessaire.

Vis-à-vis de la croissance, en se référant à l'élan donné par les révolutions technologiques précédentes, liées à l'électricité ou aux technologies de l'information et de la communication (TIC), on pourrait anticiper une hausse du taux de croissance de l'ordre de 1 % par an sur 10 ans. Certains diront qu'en prenant aussi en compte l'automatisation de la production des idées, un potentiel plus élevé de croissance pourrait être envisagé. D'autres diront au contraire qu'il conviendrait également de prendre en compte un certain nombre de freins et d'obstacles à la croissance, liés notamment à l'absence de concurrence dans les segments en amont de la chaîne de production de l'IA que sont l'accès aux données et l'accès à la puissance de calcul. La révolution des TIC, par exemple, a dopé la croissance aux États-Unis à la fin des années 1990. Cependant, une période de stagnation a ensuite été observée, résultant de l'essor de grands groupes, les GAFAM, ayant fini par inhiber l'entrée sur le marché d'entreprises innovantes. Dans le domaine de l'IA, de grands acteurs, dont les GAFAM, sont déjà présents. Si nous n'adaptons pas notre politique de concurrence, nous risquons d'être confrontés à des obstacles à la croissance.

L'IA représente ainsi un grand potentiel de croissance et de création d'emplois. Pour exploiter ce potentiel et faire pleinement de l'IA un facteur de progrès, il nous faudra toutefois réformer nos institutions et nos politiques publiques, en matière d'éducation, de concurrence, d'adaptation du marché du travail, etc.

L'Europe et la France ont des atouts pour être des acteurs de cette révolution. En France, nous disposons notamment d'excellents mathématiciens et ingénieurs. Un certain nombre de grands acteurs de l'IA, tel Yann Le Cun, sont français. Cependant, pour le moment, ces Français vont souvent travailler ailleurs.

De manière générale, nous n'investissons aujourd'hui pas suffisamment dans l'IA. En proportion du PIB, la France investit actuellement trois fois moins que les États-Unis dans le domaine. Or, sans investissements majeurs dans l'IA, nous courrons le risque de nous trouver dépourvus d'entreprises spécialisées dans l'IA et de voir nos entreprises des autres secteurs perdre en compétitivité.

Jusqu'à présent, nous avons engagé dans l'IA environ 3 milliards d'euros d'investissements publics sur 8 ans. Notre rapport recommande un investissement de 5 milliards d'euros par an pendant 5 ans. Cet effort ne représenterait que 0,3 % des dépenses publiques totales. Dès lors que celles-ci sont appelées à augmenter de plus de 200 milliards d'euros en 5 ans, nous considérons cet effort réaliste. Pour financer l'investissement dans l'IA, l'enjeu ne serait pas tant de supprimer des dépenses publiques, mais de choisir les dépenses publiques à faire croître plus rapidement.

Je rejoindrai en ce sens la doctrine développée par Mario Draghi, consistant à ne pas mettre sur le même plan toutes les dépenses publiques. Il y a des dépenses publiques de fonctionnement, récurrentes. À cet égard, il fallait faire la réforme des retraites. D'autres réformes de l'État apparaissent également nécessaires. En parallèle, il y a aussi des dépenses publiques d'investissement dans la croissance et l'environnement. Investir dans l'IA, c'est investir dans la croissance qui nous permettra, plus tard, de rembourser la dette publique.

. – Nous avons formulé 25 recommandations. Je reviendrai sur 7 d'entre elles, qui nous paraissent particulièrement importantes.

La première serait de créer les conditions d'une appropriation collective de l'IA, en lançant un plan de sensibilisation et de formation à l'échelle de la nation. Dans le cadre de la révolution de l'IA, au-delà des métiers à risque et des métiers à créer, beaucoup de tâches et de métiers sont appelés à se transformer. Il conviendra donc d'agir sur la formation continue. Il faudra également former davantage de personnes à l'IA dans le cadre de la formation initiale, en veillant à associer l'IA aux grands domaines de formation : droit, histoire, finance, etc. Nous aurons également besoin d'un plan de sensibilisation de tous les citoyens et tous les élèves, dès l'école maternelle, à la compréhension des enjeux de l'IA, par exemple pour développer chez eux un esprit critique face aux images générées par l'IA, dans une optique de lutte contre la désinformation.

La deuxième recommandation serait d'investir massivement dans les entreprises du numérique et dans la transformation des entreprises, quelle que soit leur taille, pour soutenir l'écosystème français et préserver sa compétitivité. Pour ce faire, la proposition serait de créer un fonds dédié « France et IA ».

La troisième recommandation serait de faire de la France et de l'Europe un pôle majeur de la puissance de calcul, à court et à moyen termes. L'IA et les grands modèles de langage reposent sur énormément de puissance de calcul et de données. Le sujet de la puissance de calcul est donc fondamental.

La quatrième recommandation serait de transformer notre approche de la donnée personnelle, pour pouvoir à la fois continuer à protéger nos concitoyens, en confortant le rôle de la Cnil et du RGPD, tout en étant capables de soutenir l'innovation au bénéfice de tous, dans le domaine de la santé notamment.

La cinquième recommandation serait, dans le cadre du développement de l'IA dans le domaine de la culture et des industries créatives, d'assurer le rayonnement de la culture française, pour éviter que les modèles d'IA soient entraînés principalement sur des données et de la culture anglo-saxonnes. À cet égard, les données de l'Institut national de l'audiovisuel (INA) représentent déjà 100 fois plus que les données du common crawl utilisé pour l'entraînement des modèles et résultant du balayage de l'internet. Ces données ont une valeur quantitative et qualitative importante, qu'il faut mobiliser.

La sixième recommandation serait de conduire une expérimentation dans le domaine de la recherche publique autour de l'IA, pour améliorer les conditions de travail de nos chercheurs et éviter une fuite de nos talents, notamment vers les grandes entreprises américaines, celles-ci offrant aujourd'hui des conditions de travail et de rémunération incomparables.

Enfin, la septième recommandation serait de structurer une initiative diplomatique internationale cohérente pour promouvoir une gouvernance mondiale de l'IA. À cet égard, l'accueil par la France du prochain sommet mondial de l'IA pourrait représenter une opportunité.

Au-delà de ces recommandations, nous sommes convaincus que notre capacité à nous différencier dans le domaine de l'IA dépendra de notre capacité à prendre aussi en compte les enjeux environnementaux associés. Il nous faudra faire preuve de transparence vis-à-vis des impacts environnementaux de l'IA et favoriser le développement de solutions et de modèles d'IA portant une attention spécifique à ces enjeux : consommation énergétique, consommation d'eau, frugalité, etc.

. – J'ai eu l'occasion de demander au Gouvernement si les hauts fonctionnaires de Bercy avaient utilisé l'IA pour mesurer l'impact dans la durée des coupes budgétaires annoncées, dans la recherche et l'enseignement supérieur notamment – les investissements dans ce domaine rejoignant les dépenses vertueuses évoquées par Philippe Aghion. Je n'ai toutefois pas obtenu de réponse.

Vous avez par ailleurs évoqué le retard en investissements dans l'IA de la France par rapport aux États-Unis, en pourcentage du PIB. Pourriez-vous cependant détailler ce retard en distinguant l'investissement public de l'investissement privé ?

Se pose par ailleurs la question du bénéfice de la croissance générée par l'IA. Où en est-on des réflexions sur la rétribution de ceux qui participent à cette croissance par leurs données, au-delà des questions déontologiques, ou par la mise à disposition de leur puissance de calcul ? Ceci pose également, en toile de fond, la question de la souveraineté numérique de la France et de l'Europe.

. – Un rapport récent de l'Académie nationale de médecine a soulevé un enjeu de supervision humaine de l'usage de l'IA dans le domaine de la santé. Dans votre rapport, cette dimension de protection semble constituer un frein. Toutefois, ce frein sera d'autant moins important que nous l'anticiperons, tant sur le plan éthique que sur le plan juridique, en considérant les enjeux liés à la protection des patients, à la responsabilité du corps médical, à la formation des professionnels de santé, etc.

Dans le domaine de la culture, au-delà de la langue d'expression des modèles d'IA, il nous faudra aussi considérer la protection de notre terreau culturel, de notre histoire culturelle, de nos manières de penser et de nos artistes auteurs. L'IA progressant très rapidement dans le domaine de la culture, il nous faudra considérer les gains économiques associés, mais aussi les pertes économiques, culturelles et démocratiques à prévenir pour nos concitoyens. Il y a aujourd'hui une forme d'urgence à traiter ces questions.

. – Vous avez salué dans votre rapport une augmentation, en France, des investissements en capital-risque dans l'IA. Cependant, ceux-ci demeurent très faibles par rapport à ceux observés aux États-Unis. Comment encourager l'investissement à long terme dans les entreprises françaises, au-delà de l'investissement public qui ne peut répondre seul aux enjeux soulevés par l'IA ?

Par ailleurs, l'investissement public que vous préconisez, à hauteur de 25 milliards d'euros sur 5 ans, sera-t-il suffisant pour lutter contre la domination des GAFAM – la société OpenAI étant aujourd'hui valorisée à plus de 100 milliards d'euros ?

Enfin, votre rapport met l'accent sur la souveraineté européenne. La France apparaît certes petite pour rivaliser avec les GAFAM, les États-Unis ou la Chine. Avez-vous néanmoins identifié des limites dans cette coopération entre les États à l'échelle européenne ? Certaines dimensions ne devraient-elles pas demeurer franco-françaises, autour de la gestion des données notamment ?

. – Nous accusons, de fait, un retard par rapport aux États-Unis dans les investissements dans l'IA, tant sur le volet public que sur le volet privé. Les stratégies recommandées par le rapport Villani de 2018 et mises en œuvre via France 2030 ont consisté à investir 3 milliards d'euros sur 8 ans. L'investissement public à hauteur de 5 milliards d'euros par an sur 5 ans que nous recommandons serait donc significatif. En parallèle, nous recommandons la constitution d'un fonds « France et IA », doté d'une gouvernance publique-privée, pour encourager aussi l'investissement privé. Aux États-Unis, la recherche publique est ainsi achetée par les entreprises privées. La chercheuse Fei-Fei Li a récemment interpellé Joe Biden à ce sujet à l'occasion de son discours sur l'état de l'Union.

Dans le domaine de la santé, la protection des données demeure effectivement extrêmement importante. La proposition serait de conserver le rôle de la Cnil dans cette protection, tout en lui confiant, avec des ressources supplémentaires, un rôle dans le domaine de l'innovation. La Cnil, que nous avons auditionnée, est appelée à répondre à de plus en plus de questions autour de l'IA. Elle aura donc un rôle extrêmement important à jouer, y compris pour donner de la visibilité en amont aux entreprises et aux organisations, pour qu'elles puissent innover et déployer leurs services liés à l'IA en anticipant les éventuelles difficultés associées. Concrètement, dans le domaine de la santé, une autorisation préalable est aujourd'hui obligatoire pour l'utilisation de données dans une optique de recherche et de développement de solutions au bénéfice des patients. Nous estimons que cette autorisation préalable pourrait être supprimée, au profit d'une logique de responsabilisation des acteurs et de validation ex post. À défaut, le risque serait que ces solutions continuent d'être développées par d'autres et que nous soyons amenés, pour répondre à des enjeux de santé, à retenir des innovations ne provenant majoritairement pas d'acteurs français.

Dans le domaine de la culture, il apparaît effectivement important, au-delà du rayonnement de la culture et des valeurs françaises et européennes, d'assurer le respect du droit d'auteur. À cet égard, il existe, dans la règlementation européenne, des capacités d' opt-in et d' opt-out à la disposition des artistes et auteurs. Nous recommandons une transparence sur ces dispositions, pour qu'elles puissent être mobilisées de manière plus éclairée. Il subsiste toutefois un risque d'évitement. C'est pourquoi nous recommandons également le développement d'une plateforme de mise en relation des ayants droit avec les sociétés d'IA, pour leur permettre de négocier, le cas échéant de manière collective, l'utilisation et la rémunération de leurs créations.

Pour ce qui est de la souveraineté, nous avons beaucoup placé la réflexion au niveau européen, car les montants financiers à engager sont considérables. La France est sans doute le pays européen souhaitant le plus conserver sa souveraineté nationale. Cependant, elle doit aussi faire preuve de pragmatisme, en considérant ses capacités à faire. Il conviendra de s'interroger sur les données à conserver impérativement en France, sur des serveurs français, ainsi que sur les données qu'il ne serait pas viable économiquement d'exploiter ainsi et vis-à-vis desquelles une réflexion pourrait être menée à l'échelle européenne ou avec d'autres acteurs internationaux.

. – Les externalités de croissance justifient un investissement public dans l'IA. De surcroît, si nous ne faisons rien, nous serons confrontés à deux dangers : nous risquons d'être dépourvus d'entreprises spécialisées dans l'IA et de voir nos entreprises existantes perdre en compétitivité. Aucun secteur n'est à l'abri des transformations liées à l'IA. Par le passé, les pays s'étant tenus à l'écart d'une révolution technologique ont été déclassés au plan économique et dominés au plan géopolitique. Si nous n'investissons pas suffisamment dans l'IA, nous risquons donc d'être perdants, alors même que nous disposons de talents et d'atouts formidables.

L'idée serait cependant de promouvoir un partenariat public-privé. Les chemins de fer ont été construits ainsi en France. L'idée ne serait donc pas de tout renvoyer à l'investissement public. Le fonds que nous recommandons pour financer l'émergence d'un écosystème autour de l'IA et la transformation numérique de l'ensemble du tissu économique et des services publics français serait doté de 10 milliards d'euros, dont 3 milliards d'euros de capitaux publics et 7 milliards de capitaux privés. Ce levier de financement par le secteur privé aurait vocation à mobiliser principalement les grandes entreprises – la France ne disposant pas, au contraire des États-Unis, d'investisseurs institutionnels de type fonds de pension. La politique industrielle moderne est ainsi faite. L'investissement public a vocation à entraîner, en préservant la concurrence et l' open source, l'investissement privé. La DARPA (Defense Advanced Research Projects Agency) et la BARDA (Biomedical Advanced Research and Development Agency) ont ainsi joué leur rôle aux États-Unis dans les secteurs de la défense et des vaccins.

Pour ce qui est de la protection des données, la logique de contrôle du RGPD est aujourd'hui largement ex post, tandis que celle de la Cnil demeure ex ante (avec un régime d'autorisation préalable). Tout en renforçant le rôle de la Cnil, l'idée serait d'aller davantage vers une logique ex post, dans le domaine de la santé notamment, pour dynamiser la recherche et l'innovation en santé. Nous disposons en France de formidables données de santé, de formidables chercheurs et d'un corps médical extraordinaire. Nous pourrions donc être les meilleurs dans ce domaine.

. – Vous avez formulé des recommandations autour de la puissance de calcul et du stockage massif de données. Ces capacités conditionnent une grande partie des enjeux de sécurité et de souveraineté évoqués. Quelle part des investissements devra y être consacrée ? Selon quels modèles ? Avec quelle articulation public-privé ? Comment développer rapidement ces capacités massives, qui constituaient déjà un enjeu avant l'accélération du développement de l'IA ?

Se pose également la question de la dépendance de l'IA à l'égard d'autres technologies : liaisons satellitaires pour guider les véhicules, débit et couverture du réseau de fibres optiques pour interroger les services dématérialisés, etc. Avez-vous exploré ces zones de fragilité ou de risque ?

. – Dans le cadre du développement de l'IA, nous savons que l'anglais risque de prendre le dessus. Ce risque est-il réel ? Si oui, comment protéger nos langues, notamment la langue française, pour laquelle nous nous battons déjà ?

. – Vous avez évoqué certains de nos domaines d'excellence, parmi lesquels les mathématiques et la santé. Cependant, en matière d'éducation, comment accompagner le développement de l'IA ? Au-delà du renforcement de l'enseignement des mathématiques, des enseignements spécifiques devront-ils être introduits ? Si oui, comment les diffuser et à quel rythme ?

. – La puissance de calcul est effectivement très importante. La responsable technique d'OpenAI, Mira Murati, m'indiquait récemment que, face au succès inimaginable de ChatGPT, elle avait dû solliciter immédiatement auprès de Microsoft un autre supercomputer. La logique des modèles de langage est ainsi de s'appuyer sur des puissances de calcul considérables. Il est donc essentiel que nous puissions donner aux chercheurs et aux entreprises, en France et en Europe, un accès à des puissances de calcul importantes, tout en essayant de développer des approches alternatives, à travers l' open source, la mutualisation des capacités, le développement de modèles plus performants et moins gourmands, etc. À cet égard, une gouvernance internationale nécessiterait d'être promue, y compris pour pouvoir, le cas échéant, solliciter une contribution sociétale auprès de grands acteurs du cloud. Une attention devra également d'être portée à l'innovation – les nouveaux modèles de Nvidia étant déjà appelés à multiplier la puissance de calcul avec une consommation énergétique moindre.

S'agissant de défendre la culture, les valeurs et la langue françaises, les rencontres de la francophonie de l'automne 2024 constitueront une étape importante dans la préparation du prochain sommet mondial de l'IA. De fait, il sera important de veiller à ce que des modèles de langage soient entraînés dans la langue française. Des approches similaires sont d'ores et déjà mises en œuvre en Asie.

En matière d'éducation, au-delà du renforcement de l'enseignement en mathématiques, en informatique ou en physique, l'enjeu sera d'attirer davantage de femmes et de filles dans les filières scientifiques. Aujourd'hui, les femmes et les filles ont encore trop tendance à se désélectionner d'elles-mêmes de ces filières. Leurs choix demeurent également guidés par une recherche de sens dans leur métier. Il conviendra donc aussi de mettre en évidence que les métiers de l'informatique et de l'IA permettent le développement de l'innovation en santé, dans les domaines de l'éducation, de l'environnement, etc.

. – Pour développer des capacités de calcul, il demeure nécessaire de produire des semi-conducteurs. Cette filière est aujourd'hui extrêmement concentrée, à Taiwan notamment. Cela ne constitue toutefois pas une fatalité. L'Europe et la France doivent se positionner vis-à-vis des prochaines générations de semi-conducteurs. Au regard de l'ampleur des investissements nécessaires, l'intervention de la puissance publique apparaît indispensable. Il s'agit d'un enjeu de souveraineté et de compétitivité.

En matière de formation, nous recommandons une sensibilisation, dès la petite école, aux bons et mauvais usages de l'IA. Nous préconisons également le développement d'actions de sensibilisation auprès du grand public, au travers de « cafés IA », de débats, etc. En parallèle, l'enjeu sera d'introduire de l'IA dans tous les domaines d'enseignement et de formation. Des spécialistes de l'IA devront également être formés pour déployer l'IA dans les entreprises et les administrations. Une articulation devra être trouvée entre ces trois niveaux.

Je souhaiterais également aborder la question de la concurrence. La politique industrielle et la politique de concurrence sont souvent opposées. La politique de concurrence empêche souvent toute aide sectorielle d'état ; la politique industrielle écarte quant à elle souvent le développement de la concurrence. Or ces deux politiques doivent être articulées. Certains secteurs ou segments sont aujourd'hui dominés par un faible nombre d'acteurs, ce qui plombe la croissance. Le cloud est ainsi dominé par Amazon, Google et Microsoft. Il nous faut donc agir sur la concurrence. Le Digital Market Act (DMA) vise aujourd'hui à prévenir les abus de position dominante. Ce dispositif nécessiterait d'être complété et étendu, pour couvrir l'ensemble de la chaîne de valeur de l'IA. L' open source a également vocation à faciliter l'évaluation par des tiers (pour améliorer et sécuriser les modèles), à favoriser la personnalisation des modèles (et donc leur adaptation à différents contextes, linguistiques notamment), à réduire l'empreinte environnementale de l'IA (en évitant que chacun réentraîne son propre modèle de fondation) et à abaisser les barrières à l'entrée (pour permettre l'entrée de nouvelles entreprises et dynamiser la concurrence).

. – Les bienfaits de l'IA ne sauraient être remis en question. Cependant, vous évoquez aussi un certain nombre de risques. Qu'en est-il par exemple du risque lié aux deep fake, c'est-à-dire du risque d'usurpation d'identité ? Cela va-t-il nécessiter une évolution juridique ? Quelles sanctions pour quelle maîtrise ?

Qu'en est-il du risque de fraude ? Comment adapter les moyens dévolus à nos administrations, dans le rapport de force avec les trafiquants et délinquants ?

Quel cadre légal pour l' open source, vis-à-vis de l' AI Act ?

Comment articuler, en Europe, le développement par la recherche civile avec celui porté par le domaine militaire, alors que l'Union européenne n'exerce pas, au contraire des États-Unis ou de la Chine, de compétence en matière militaire ?

Enfin, le développement de l'IA ne risque-t-il pas de s'opérer au détriment de l'intelligence de l'Homme ?

. – Nos collectivités territoriales disposent de moyens financiers limités. Notre ruralité est également souvent oubliée, y compris dans le déploiement des technologies. Dans ce contexte, comment faire pour déployer les investissements nécessaires ?

De surcroît, pour faire face à la transformation des emplois induite par l'IA, nos collectivités territoriales ne pourront pas doublonner leurs postes. Là encore, des moyens financiers devront être engagés.

Se posera également, pour les collectivités territoriales, la question de la cybersécurité. Les collectivités territoriales font aujourd'hui l'objet d'attaques régulières. Comment pourront-elles se protéger ? Cet enjeu apparaît particulièrement important pour les communes qui assurent la gestion de l'état civil.

L'automatisation est par ailleurs appelée à supprimer les emplois de travailleurs peu qualifiés, n'ayant pas nécessairement les moyens de se former. Ne risque-t-on pas de laisser de côté ces personnes, que nous retrouvons déjà parmi les bénéficiaires du RSA ?

L'éducation nationale sera-t-elle prête ? Au Danemark, les enfants sont déjà sensibilisés au codage dès la maternelle. Où en est-on en France de l'apprentissage du codage ? Dans cette optique, qu'en est-il de la formation des enseignants ?

Enfin, dans le monde de l'entreprise, comment adapter la formation professionnelle continue ? Les centres de formation seront-ils au bon niveau pour accompagner les personnes pouvant prétendre aux emplois liés à l'IA ou devant se former à d'autres emplois ?

. – L'IA et la production massive de données de santé pourraient être une aide précieuse pour l'innovation en santé et la pratique médicale. Au travers de nos auditions sur les liens entre l'IA et notre système de santé, nous avons pu entrevoir de nombreux domaines d'application. Nous n'en sommes toutefois qu'à un stade expérimental. Quelle est votre analyse des perspectives de transformation par l'IA de notre service public de la santé ? L'IA est-elle une opportunité pour lutter contre les déserts médicaux et les difficultés d'accès aux soins, dans les départements ruraux notamment ?

. – L'IA porte également un important potentiel pour accompagner la transition écologique. Pour cela, il faudra néanmoins investir. Des études ont-elles été réalisées sur le développement de l'IA dans le contexte du plan national d'adaptation au réchauffement climatique ? Des modélisations ont-elles été réalisées pour interroger notre capacité à répondre aux objectifs ainsi fixés, en tenant compte des besoins en matière de consommations énergétique, d'eau, de silice, de terres rares, etc. ? La projection faite dans votre rapport est-elle compatible avec les limites auxquelles nous sommes aujourd'hui confrontés ?

Se pose par ailleurs la question de l'accès à l'IA, qui soulève une problématique de traitement social des données.

. – Il est rarement question de hardware, alors que le sujet est fondamental. 6 % de la production des semi-conducteurs est aujourd'hui localisée en Europe. Nous partons donc de loin. Comment créer une nouvelle filière avec les investissements que vous préconisez, alors que le budget R&D de Nvidia s'est élevé, en 2023, à 7,4 milliards d'euros ? À cet égard, avez-vous auditionné des représentants de Lite-On ?

. – Nous les avons bien auditionnés.

. – Quel est par ailleurs votre avis sur l'application en France de l' AI Act ? Alors que vous parlez de simplification administrative, cette règlementation ne risque-t-elle pas de contraindre notre action ?

. – Quelle est votre ambition par rapport à la mise en œuvre concrète des recommandations de votre rapport ? Avez-vous envisagé un pilotage ? Au regard des enjeux, en termes de souveraineté intellectuelle, industrielle et économique, notre pays ne pourra passer à côté du sujet. Nous aurons donc besoin d'une programmation.

. – Tout en faisant preuve d'un optimisme raisonné, nous avons examiné les risques portés par l'IA. Vis-à-vis du deep fake, par exemple, des approches technologiques ou juridiques existent, avec notamment le watermarking permettant de marquer publiquement les vidéos générées par une IA. Il importe également de condamner les usages frauduleux ou antidémocratiques. En parallèle, il apparaît nécessaire de familiariser nos concitoyens avec les risques portés par l'IA. C'est pour cela que nous avons préconisé la mise en œuvre, dès la maternelle et à tous les âges, d'actions de sensibilisation. J'estime qu'il conviendrait par ailleurs de nous doter de lieux de recherche et d'alimentation du débat public autour des risques liés aux usages de l'IA. Un institut « IA et Société » vient d'être créé en ce sens par l'ENS et l'Université Paris Dauphine, en toute indépendance vis-à-vis des grands acteurs de la tech.

L' AI Act, quant à lui, a été adopté. Il importe désormais de réfléchir à sa mise en œuvre, pour que celle-ci soit la plus pertinente et la plus simple possible. Cette mise en œuvre nécessitera une compréhension technique de l'IA. Il conviendra pour cela d'engager des discussions avec des chercheurs et des représentants d'entreprises. Ceci met en évidence l'importance de disposer d'une recherche publique indépendante et de qualité pour accompagner les régulateurs.

Pour ce qui est de l'impact environnemental de l'IA, nous avons regretté de ne pas pouvoir traiter mieux cet enjeu. Il s'agit effectivement d'un sujet majeur. D'une part, il nous faudra considérer l'impact environnemental des infrastructures de calcul et de stockage des données nécessaires au développement de l'utilisation de l'IA, avec des enjeux en termes de consommations énergétique, d'eau et de terres rares, mais aussi d'émissions de carbone. D'autre part, il nous faudra aussi envisager les perspectives d'optimisation, à travers l'IA, de nos consommations et de nos émissions. Il existe aujourd'hui peu de données disponibles concernant ces impacts. Il s'agira néanmoins de faire preuve de transparence à cet égard. Aujourd'hui, les entreprises ou les collectivités considèrent surtout des critères technologiques, d'efficacité et de prix des modèles d'IA. Demain, l'enjeu sera de faire en sorte que leurs choix puissent aussi être guidés par des critères environnementaux. En parallèle, il s'agira d'encourager la recherche et le développement de solutions plus frugales, le cas échéant avec des modèles plus verticaux et plus spécifiques.

Pour ce qui est du pilotage de la mise en œuvre des recommandations de notre rapport, je vous retournerai la question. Comment pourrions-nous aider le Gouvernement et le Parlement ? Notre commission pourrait-elle demander à bénéficier d'un travail de suivi, le cas échéant semestriel ? D'autres moyens pourraient-ils être envisagés ? Votre expérience dans ce domaine nous serait précieuse.

. – L'IA a vocation à constituer un outil, pour automatiser un certain nombre de tâches rébarbatives et donner davantage de temps à l'humain pour des tâches créatives. Dans ce cadre, certains emplois devront cependant être recyclés. Il faudra donc former et disposer d'un marché du travail bien organisé. Le Danemark dispose déjà, à cet égard, d'un système efficace, avec des dispositifs de formation et de flexisécurité. Du reste, en France, l'IA pourrait également jouer un rôle dans l'amélioration du dialogue social.

Une réforme de l'éducation apparaît par ailleurs nécessaire. Les Portugais ont ainsi réussi à améliorer leurs résultats dans le cadre des enquêtes PISA. De fait, le développement de l'IA imposera de renforcer l'enseignement des mathématiques et d'envisager la manière de rendre les mathématiques concrètes.

Vis-à-vis du climat et des problématiques environnementales, l'IA pourrait être une solution pour optimiser les consommations d'eau, d'énergie et d'intrants. Elle pourrait également accompagner l'innovation verte des entreprises et réduire le coût de leur transition. Néanmoins, il est évident que l'IA est aussi appelée à générer des consommations importantes. À cet égard, l'innovation aura également un rôle important à jouer. Du reste, le rapport entre IA et environnement nécessiterait sans doute un rapport en soi.

Pour le pilotage de la mise en œuvre des recommandations de notre rapport, nous aurons besoin de vous. Certains sujets nécessiteraient de faire l'objet, en France, d'une véritable union nationale. Le grand risque serait de passer à côté de l'IA, au détriment de notre influence sur la scène internationale, alors même que nous avons de formidables atouts. Nous souhaitons tous que la France soit grande. À cet égard, l'IA nécessiterait donc d'être, à l'instar du domaine militaire, un sujet d'union nationale, investi par le Président de la République, le Parlement et l'ensemble des partis politiques, pour faire en sorte que les objectifs fixés soient poursuivis avec constance dans la durée, par-delà les alternances ou les divergences politiques.

. – Toutes les sensibilités politiques du Sénat travaillent aujourd'hui sur ce sujet, au sein de l'OPECST comme au sein de la délégation à la prospective et de la délégation aux collectivités territoriales.

Dans notre rôle de législateur, il nous appartient de voter la loi, mais aussi de contrôler et d'évaluer son application. Vous pourrez également, en tant que Commission de l'intelligence artificielle, vous intéresser aux suites données à votre rapport.

Merci à toutes et tous pour votre participation à cette audition.