Intervention de Constance Le Grip

J'ai l'honneur de présenter un projet d'avis politique sur le projet de règlement européen établissant des règles harmonisées en matière d'intelligence artificielle. La présentation de ce projet d'avis politique est précédée par une communication.

Si les origines de l'intelligence artificielle remontent aux années 1950, ce n'est que ces dernières années que son usage et son évocation même dans les débats publics, politiques, journalistiques, scientifiques, ont pris une telle ampleur. Les potentialités des usages et des bouleversements que les technologies d'intelligence artificielle introduisent dans la société, et dans tous les domaines de notre vie, en font la principale et la plus forte innovation de cette quatrième révolution industrielle que nous vivons.

Il convient de s'entendre sur ce qu'est une intelligence artificielle. Il n'y a pas encore à ce stade, une définition reconnue, même si les travaux de l'OCDE (Organisation de coopération et de développement économique) sont sur le point d'aboutir à une définition commune. Mais dans le langage courant, l'intelligence artificielle se définit comme un ensemble d'algorithme basé sur des techniques d'apprentissage, dont les instructions à exécuter sont générées par la machine qui apprend ainsi à partir des données qui lui sont fournies par l'être humain.

Nous sommes donc clairement dans le sujet très sensible du travail de l'être humain avec des machines apprenantes et de la capacité du pouvoir que ces machines ont pour répliquer les comportements humains et pourquoi pas un jour les devancer, voire même les inventer. Se pose la nécessité de savoir si l'on va vers une régulation, une gouvernance de ces technologies d'intelligence artificielles, ou pas ; et c'est une question qui se pose au niveau mondial.

Il y a depuis 2020, à l'initiative du Canada et de la France, une instance de coopération internationale, que l'on appelle le partenariat mondial pour l'intelligence artificielle qui vise à organiser la coopération internationale pour une gouvernance mondiale de l'intelligence artificielle reposant sur le développement responsable de l'intelligence artificielle et son utilisation centrée sur l'humain. Le prochain sommet de ce partenariat global sur l'intelligence artificielle se réunira à New Dehli, en Inde, du 12 au 14 décembre prochains. Plus près de nous, s'est tenue récemment, les 1er et 2 novembre derniers, au Royaume-Uni, la première édition du sommet pour la sécurité de l'intelligence artificielle, à l'initiative des Britanniques. La France y était représentée par Bruno Le Maire, dont le portefeuille ministériel inclut la souveraineté industrielle et numérique, et le ministre Jean-Noël Barrot. C'est d'ailleurs la France qui organisera, au cours de l'année 2024, la deuxième édition de ce sommet pour la sécurité de l'intelligence artificielle à Paris.

L'idée générale de ce sommet est de considérer les technologies d'intelligence artificielle comme des vecteurs de progrès qui comportent néanmoins des risques considérables, d'où l'idée d'une gouvernance de ces technologies et de leurs usages.

Avant la tenue de ce sommet au Royaume-Uni, les dirigeants du G7 réunis au Japon ont lancé le processus d'Hiroshima, qui vise à mettre en place des principes directeurs et un code de bonne conduite pour les développeurs de ces technologies.

Ce préambule vise à éclairer la commission sur le contexte géopolitique dans lequel s'insère le sujet de la gouvernance et de la régulation des technologies d'intelligence artificielle. J'en arrive donc au projet de règlement qui a été proposé en avril 2021 par la Commission européenne, qui vise à doter l'Union européenne d'un cadre juridique harmonisé pour l'intelligence artificielle. Nous verrons pour quelle raison la Commission a proposé un règlement plutôt qu'une directive.

La base juridique est l'article 114 du traité, qui vise à permettre un meilleur fonctionnement du marché intérieur en luttant contre la fragmentation juridique, source d'insécurité et d'iniquité, ce qu'une démarche d'autorégulation ne suffirait pas à garantir. La Commission européenne, faisant le choix de l'efficacité et du pragmatisme, a proposé un règlement plutôt qu'une directive.

Ce projet de règlement assez ambitieux vise à créer une intelligence artificielle centrée sur l'humain, durable, éthique et digne de confiance.

L'approche du commissaire Thierry Breton est basée à la fois sur la confiance dans le progrès, dans la capacité de l'Union européenne à préserver sa souveraineté, mais aussi sur la prise en compte des risques et des menaces, une réalité qui s'invite dans les débats politiques et juridiques.

L'approche de la Commission européenne a donc été basée sur les risques, comme l'avait fait le Parlement européen dans une résolution votée en 2020 à la suite de la publication du Livre blanc sur l'intelligence artificielle par la Commission européenne.

La proposition distingue trois types de risques : le risque inacceptable, entraînant l'interdiction, le risque élevé et le risque limité ou faible.

Le risque inacceptable désigne une série d'usages pour lesquels les technologies d'intelligence artificielle présentent une menace manifeste pour la sécurité ou pour les droits des personnes. Sont par exemple concernés les systèmes manipulant les comportements humains, comme des systèmes de reconnaissance des émotions, ou produisant une notation sociale.

Le risque élevé vise les technologies traitant d'infrastructures critiques, d'éducation, de formation professionnelle, de sécurité des produits, présentant des risques d'interférences avec les droits fondamentaux des personnes, ou encore traitant de sujets relevant des migrations, de l'asile ou des contrôles aux frontières.

Enfin, le risque limité ou faible concerne, par exemple, les jeux vidéo ou les systèmes anti spam.

En fonction de l'appartenance à l'une de ces catégories, des contraintes et des obligations de publication, de déclarations ou de contrôle en amont sont déclinées de façon proportionnée. La liste des intelligences artificielle interdites peut être trouvée en annexe du projet. La finalisation de ces listes fait l'objet d'intenses tractations à l'heure actuelle dans le cadre du trilogue.

Les systèmes d'intelligence artificielle à risque élevé sont encadrés par un ensemble d'obligations tenant compte des mésusages possibles. Dans cette catégorie se trouvent des usages liés à la sécurité. L'utilisation des technologies d'intelligence artificielle à des fins militaires ou de défense nationale est interdite dans le texte actuel, ce que je soutiens. Cela ne signifie pas qu'il faille s'interdire de créer un espace pour des usages à des fins de sécurité, par exemple pour les forces de police et de gendarmerie, mais de façon encadrée, ce que prévoit le texte avec un contrôle des autorités judiciaires.

C'est un sujet sensible qui fait l'objet d'intenses discussions entre représentants du Parlement européen et représentants du Conseil. Nous verrons comment les choses évoluent, compte tenu de l'accélération des travaux du trilogue.

Autre sujet important à mes yeux, celui de la protection des données personnelles. L'Union européenne bénéficie du règlement général sur la protection des données, cadre très protecteur et crucial pour notre souveraineté. Les acteurs auditionnés ont souligné que la bonne articulation entre le Règlement général sur la protection des données personnelles (RGPD) et le futur règlement européen est essentielle.

Une fois évoquée la démarche de prise en compte des risques et des garanties, nous en venons à ce qui me semble être au cœur de ce que veut porter l'Union européenne, attachée à sa souveraineté industrielle et numérique : le soutien à l'innovation et à la compétitivité. L'intelligence artificielle est un formidable levier d'innovation, de progrès et de mieux-être pour nos économies, nos concitoyens, nos systèmes de santé ou nos entreprises. Il est crucial que l'UE s'inscrive avec optimisme et persévérance dans cette logique de soutien à l'innovation. Nous devons bien voir les opportunités et les progrès qu'offre l'intelligence artificielle dans un contexte de très grande concurrence internationale, quand nous savons que des progrès auront lieu aux États-Unis, en Inde ou ailleurs.

Nous devons donc opter résolument pour le choix de la régulation, et nous sommes le premier ensemble démocratique au monde à le faire, mais sans placer des contraintes inutiles pour nos entreprises européennes et sans créer une situation de concurrence déloyale à leur égard. Nous devons donc toujours avoir présent à l'esprit cette idée de soutien à l'innovation et à la recherche. Par exemple, la régulation des très grands systèmes d'intelligence artificielle, ou modèles de fondation, doit se faire avec l'idée de ne pas empêcher l'émergence et la consolidation d'un système économique et industriel porteur pour nos entreprises.

C'est la raison pour laquelle la distinction entre les entreprises du numérique selon leur taille pour l'attribution d'un certain nombre d'obligations me semble être une démarche importante pour renforcer le portage de nos capacités de recherche, d'innovation et de développement.

Le règlement prévoit également un système de gouvernance à deux niveaux, nationale et européenne. Le projet de règlement prévoit ainsi d'attribuer à des autorités nationales les compétences de contrôle des obligations imposées aux opérateurs. Mais il prévoit également un système de supervision sous la forme d'un bureau européen de l'intelligence artificielle.

Nous pouvons également mentionner le sujet des intelligences artificielles génératives, avec les menaces et craintes qu'elles font naître pour le secteur de la création et de la culture. Le Parlement européen, à travers sa commission Culture, s'y est penché et le débat qui s'est ouvert n'est pas encore totalement clos et satisfaisant. La compatibilité entre le futur règlement européen sur l'intelligence artificielle et la directive d'auteur reste en débat.

Pour conclure, il me semble qu'il y a une volonté de toutes les parties prenantes aux négociations d'arriver à un accord. Il y a une conscience partagée de l'urgence à pouvoir être le premier espace démocratique au monde à réguler l'intelligence artificielle et à mettre en place un système de gouvernance qui pourrait inspirer le reste du monde. Nos travaux européens sont regardés avec beaucoup d'attention, notamment aux États-Unis et au Royaume-Uni. Il y a donc une obligation de résultat et les négociations se font dans un esprit de compromis où chacun parvient à faire prévaloir ses lignes rouges.

Nous risquons donc d'avoir une bonne nouvelle d'ici à la fin de l'année avec un texte équilibré, qui convienne à tout le monde et qui puisse porter la souveraineté industrielle et numérique européenne de manière éclairante.