Interventions sur "algorithme"

…qui ont besoin de l'intelligence artificielle pour améliorer les performances de l'humain. Il ne s'agit pas de remplacer l'humain par la machine mais, grâce aux algorithmes, de permettre à l'humain d'intervenir avec efficacité, mais aussi empathie, comme le demande Mme Martin. Les personnels des centres de supervision ne sont pas des brutes, ce sont des agents, des humains, qui vont utiliser les meilleurs moyens à leur disposition. Si nous avions eu l'intelligence artificielle, le camion à l'origine de l'attentat de Nice aurait été repéré…

...tection et que vous avez rejeté nos précédents amendements. Je le répète, nous sommes opposés aux traitements algorithmiques des images, par principe, par philosophie, par éthique, comme l'a rappelé notre collègue Élisa Martin, parce que nous pensons que l'autre n'est pas par définition un suspect, que nous sommes doués d'empathie et mus par un humanisme certain, et parce que le paramétrage de l'algorithme, visant à détecter les comportements dits anormaux, ne fait que reproduire les biais de la société, notamment les biais discriminatoires. Cibler un comportement anormal, c'est discriminer les individus ou à tout le moins faire un tri entre les comportements « normaux » et « anormaux ». Par principe et par philosophie politique, nous ne pouvons accepter de telles méthodes ni un tel fonctionnement...

...ment limitée à la détection de l'abandon de bagages, les termes flous de la rédaction du Sénat – un « comportement anormal » – impliquant un risque de surveillance généralisée. En outre, en limitant cette technologie à la seule détection des abandons de bagages, on maximise son efficacité alors qu'en multipliant les situations qu'il faut détecter, on multiplie également les risques d'erreurs de l'algorithme. Deuxièmement, la mise en œuvre de cette technologie doit être limitée à la seule période nécessaire, soit celle des Jeux olympiques et paralympiques de 2024. Nous plaidons en troisième lieu pour un avis conforme, et non simple, de la Cnil, qui sera rendu sur la base du code préalablement transmis dans son intégralité. Quatrièmement, le traitement algorithmique ne doit induire aucune forme de ...

Comment l'algorithme traitera-t-il cette information ? Est-il normal qu'une moto roule sur les jambes d'un manifestant ? Faut-il considérer que le manifestant s'est glissé sous les roues pour s'attaquer à la moto ?

Est-ce qu'un crochet du poing droit, qui fait tomber d'un coup un manifestant au sol, doit être considéré comme un beau K.-O. ou comme un geste anormal ? L'algorithme est-il capable de le déterminer ?

À l'occasion des Jeux olympiques et paralympiques, il y aura sans doute des scènes de violence, ou de « maintien de l'ordre », comme vous les appelez, monsieur le ministre. Comment ferez-vous pour détecter ce type de comportement ? Est-ce qu'on échappe à la détection de l'algorithme si l'on porte une armure qui ressemble à celle de RoboCop ?

L'apport de l'algorithme ne sera pas limité au Stade de France : il concernera tous les équipements qui accueilleront des manifestations sportives pendant les Jeux. Certains endroits connaîtront un afflux de personnes bien supérieur à la normale. Il y aura des bénévoles, des forces de l'ordre et, en plus, la vidéo algorithmique. Vous faites semblant de ne pas comprendre en quoi elle consiste.

...pose de défendre également l'amendement n° 313, qui est un amendement de repli. L'amendement n° 312 vise à limiter ces dispositions à la seule durée des Jeux ; l'amendement n° 313 tend à ne les faire commencer qu'au début des Jeux et non dès la promulgation de la loi – de juillet à décembre 2024, c'est tout de même très long. L'expérimentation doit durer un certain temps, car il faut nourrir les algorithmes avant le début des Jeux. Pour l'instant, ils ne sont pas opérants et il faudrait, en amont, transformer toute la population en cobaye, afin qu'au moment des Jeux, ceux qui viendront découvrir la France, ce beau pays des libertés qui le sera un peu moins, ne soient plus que des semi-cobayes. Pour ne pas reproduire le fiasco du Stade de France, nous avons besoin de personnel, d'agents – comme vie...

...uis très attachée à la sûreté, telle qu'elle est définie dans la Déclaration des droits de l'homme et dans de nombreux autres textes. La sûreté des Françaises et des Français n'est pas assurée par ces dispositions de vidéosurveillance algorithmique, qui assurent un traitement a posteriori au lieu d'anticiper. À aucun moment le texte ne vise l'anticipation et ce n'est pas en nourrissant des algorithmes que l'on obtient un meilleur renseignement ou que l'on assure la sécurité des personnes. Il faudrait parler davantage de la sécurité des Françaises et des Français, ainsi que des personnes qui seront présentes sur le territoire, plutôt que d'assurer la communication d'un Gouvernement ou de technologies qu'on cherche à promouvoir pour les vendre encore plus cher. Peut-être alors serions-nous en ...

...pelé M. le ministre –, qui avait souhaité que l'expérimentation s'achève à la fin du mois de juin 2025 : l'avant-projet de loi n'allait pas aussi loin. Le Conseil d'État souhaitait allonger la durée de l'expérimentation qui, tout le monde en a bien conscience, doit permettre, peut-être – en fonction de l'évaluation de l'expérimentation et de l'analyse que nous en ferons –, d'utiliser l'outil de l'algorithme pour d'autres événements. Ainsi, limiter l'expérimentation aux Jeux olympiques et paralympiques serait une erreur. Nous aurons besoin de mettre en œuvre ce dispositif pendant quelques mois, à l'occasion d'autres événements comme les marchés de Noël ou d'autres grandes manifestations sportives, afin de pouvoir adapter ces algorithmes – M. le ministre l'a très bien expliqué. Les Jeux olympiques et...

Non seulement l'expérimentation est trop étendue dans le temps, mais elle couvre un nombre de manifestations beaucoup trop large. Encore une fois, le texte ne se limite absolument pas aux Jeux olympiques et paralympiques, mais il couvre les manifestations sportives, culturelles et récréatives. Cela veut dire, très concrètement, que la vidéosurveillance par algorithmes pourra être utilisée non seulement pour des événements sportifs de manière très large mais aussi pour des festivals, des carnavals, ou encore pour des défilés festifs, ce qui paraît être totalement disproportionné. On imagine déjà les drones armés de ces algorithmes survoler Rock en Seine, la Techno Parade ou la Marche des fiertés et analyser les participants. Et alors ? Quels comportements sero...

Non, attendez. Au parc de la Villette, nous avons besoin des algorithmes pour nous aider, nous avons absolument besoin de prendre des images. Pendant la cérémonie d'ouverture sur les quais de Seine, nous avons besoin de prendre des images et d'utiliser des algorithmes pour être sûrs que la foule ne sera pas comprimée dans un espace extraordinairement clos.

…et les pogos. Justement, lors de la mission d'information sur la vidéosurveillance, nous sommes allés voir le festival Hellfest, nous leur avons posé des questions, et ils font partie d'expérimentations menées depuis trois ans pour prendre des images et voir si des algorithmes peuvent prévoir les mouvements de foule dans la warzone – vous savez exactement ce que c'est puisque vous êtes soi-disant un spécialiste des pogos.

C'est exactement ce dont nous avons besoin pour que des algorithmes puissent prévoir des mouvements de foule afin d'éviter des dommages pour les personnes et des écrasements. Nous avons besoin de ces algorithmes et le Hellfest participe à des expérimentations sous l'égide de laboratoires d'université qui sont entièrement indépendants des grandes entreprises dont vous parlez. S'il vous plaît, arrêtez avec ce délire systématique à l'égard de l'industrie.

Puisque nous parlons de comportements anormaux et que la période des Jeux olympiques sera propice aux expérimentations, peut-être pourrions-nous soumettre aux algorithmes les vidéos de nos séances publiques ?

Certes, vous détecteriez ainsi les lives sur Twitch, mais la chose est facile : il y a une notification, si vous êtes abonnés. Je pensais à des comportements plus insidieux, tels que les bras d'honneur. Parfois, nous avons du retard à l'allumage, on ne les voit pas bien, ils sont faits un peu en loucedé ; l'algorithme nous aiderait à les percevoir ! Il convient seulement de définir ce qui est normal ou anormal :…

...chandisation, ainsi que la gabegie financière et matérielle qui l'accompagne – toutes choses assez incompatibles avec les valeurs de l'olympisme, auxquelles nous adhérons. Cela dit – ne faites pas semblant de ne pas le comprendre –, notre opposition à l'article 7 ne concerne nullement les Jeux, mais bien la perspective d'une surveillance de masse et d'un traitement des données collectées par des algorithmes relevant de l'intelligence artificielle, dont nous ne savons quasiment rien. Afin de limiter les dégâts, nous vous proposons que, du moins, cette vidéosurveillance augmentée ne soit pas exercée au moyen de drones.

Dans le même esprit que M. Acquaviva, je dirai que nous avons affaire à la combinaison, que nous entendons supprimer, de trois technologies : la vidéosurveillance, les algorithmes de l'intelligence artificielle et les drones. Au sujet de ces derniers, dans sa décision du 20 mai 2021 relative à la loi du 25 mai 2021 pour une sécurité globale préservant les libertés, le Conseil constitutionnel observait : « Toutefois, eu égard à leur mobilité et à la hauteur à laquelle ils peuvent évoluer, ces appareils sont susceptibles de capter, en tout lieu et sans que leur présence soi...

C'est faire reposer beaucoup de responsabilités sur la Cnil ! En vérité, c'est vous qui allez fixer la liste, monsieur le ministre, et la Cnil considérera peut-être qu'elle est excessive et discriminatoire. C'est tout ce qu'elle pourra faire : elle ne pourra pas s'interroger sur l'opportunité d'intégrer tel ou tel événement prédéterminé dans l'algorithme. J'ajoute que si les seuls événements détectés sont ceux qui ont été prédéterminés, l'algorithme ne signalera pas les événements imprévus non prédéterminés ! Cela montre la limite de votre dispositif qui servira, éventuellement, à… pas grand-chose.

Nous l'avons dit : l'article 7 déploie la vidéosurveillance par algorithme dans trois types de manifestations. Il ne manque plus que les manifestations revendicatives politiques et nous aurons un dispositif répressif capable de surveiller l'ensemble des manifestations de manière indistincte. Au vu du danger que représente l'emploi de ces algorithmes pour les libertés publiques et pour les droits fondamentaux de nos concitoyens – dont le droit à manifester, déjà mis à ma...