Intervention de Manuel Bompard

Le développement exponentiel de l'intelligence artificielle appelle l'adoption d'une réglementation par la puissance publique, et ce au niveau national comme aux niveaux européen et international, avec l'objectif de garantir un cadre de développement éthique, le respect des droits et des libertés et la protection des données qu'elles soient individuelles, économiques ou d'intérêt stratégique. Néanmoins, votre avis comporte selon nous quelques zones d'inquiétude et des manques. C'est la raison pour laquelle nous avons proposé un certain nombre d'amendements.

La première zone d'inquiétude porte sur votre paragraphe 28 et les impératifs de sécurité justifiant l'utilisation de l'intelligence artificielle à des fins de police. Cette utilisation présente selon nous deux inconvénients. Premièrement, elle tend à instaurer une société de surveillance généralisée. Deuxièmement, elle est loin d'être efficace. Sur le premier point, je vous renvoie aux études des principales associations compétentes sur le sujet. L'avis de la Commission national informatique et libertés (CNIL) de juillet 2022 soulignait ainsi que des risques importants pour les libertés individuelles et collectives existent du simple fait de la multiplication actuelle et anticipée des dispositifs de vidéo augmentée qui pourraient aboutir à un sentiment de surveillance généralisée. Je vous renvoie également à l'avis du Défenseur des droits de mai 2020, ou encore à l'alerte envoyée par le Haut-commissariat de l'ONU en 2021 qui avait appelé à un moratoire sur les technologies biométriques et les systèmes de surveillance opérés par intelligence artificielle. L'actualité dramatique au Proche-Orient illustre les limites des systèmes de surveillance reposant exclusivement sur l'intelligence artificielle et devrait sonner pour chacun d'entre nous comme un avertissement sur les mirages du solutionnisme technologique.

La deuxième zone d'inquiétude de votre avis porte sur le paragraphe 30 et la demande d'un cadre souple pour les entreprises européennes. Il ne s'agit aucunement de nier l'intérêt stratégique de ne pas laisser l'intelligence artificielle façonnée uniquement par la rivalité stratégique entre la Chine et les États-Unis, mais votre paragraphe répond à cet enjeu de la mauvaise manière et inverse la priorité. La priorité est d'avoir un cadre éthique et protecteur pour les droits et les libertés, pas d'avoir un cadre réglementaire au rabais.

Enfin, il existe un manque dans votre avis, celui de la question des travailleurs, de la collecte, de la conservation et de l'utilisation de leurs données. En effet, dans un nombre croissant de contextes, les travailleurs du clic interagissent avec des technologies, des applications, des logiciels, des dispositifs de traçage, des médias sociaux ou des dispositifs embarqués qui peuvent les mettre en danger et posent des questions relatives au droit du travail. Or, à l'heure actuelle, la RGPD ne contient qu'un seul article consacré à l'emploi, l'article 88 relatif au traitement des données à caractère personnel. C'est la raison pour laquelle nous avons proposé un amendement pour prendre en compte ce sujet.