Interventions sur "comportement"

...e ce paragraphe comme si cela suffisait à rendre vraies ses dispositions, tout indique que cet algorithme traitera bien des données biométriques. En effet, il suffit de se rendre sur le site de la Cnil pour y lire que « la biométrie regroupe l'ensemble des techniques informatiques permettant de reconnaître automatiquement un individu à partir de ses caractéristiques physiques, biologiques, voire comportementales ». Or l'article 7 prévoit bien la détection de comportements anormaux, impliquant nécessairement que l'algorithme aura au moins recours à des données comportementales, donc à des données biométriques. Monsieur le ministre, vous n'avez pas mentionné l'avis de la Défenseure des droits, vous contentant d'évoquer celui de la Cnil, auquel on se réfère beaucoup.

Elle a pourtant rappelé explicitement que la détection de comportements dits anormaux se fondait sur des données biométriques. L'algorithme va permettre de reconnaître des personnes, sans nécessairement les identifier. Reconnaître signifie fournir une description suffisamment détaillée pour permettre aux agents sur le terrain de repérer une personne. Il y a donc, nécessairement, utilisation de données biométriques. L'article 7 est donc inopérant : il interdit ce qu...

...t à quel point la représentation nationale méprise les citoyens qui s'engagent pour nos droits et pour les libertés fondamentales. La portée très large de l'article fait que pratiquement tous les événements pourraient être concernés par la vidéosurveillance algorithmique. C'est très préoccupant et cela alimente les inquiétudes. Allons à l'essentiel : précisez ce qui, selon vous, s'assimile à un comportement inadéquat ou suspect. Dites-nous ce que vous avez précisément en tête.

Que feront-ils des outils que vous aurez mis à leur disposition ? Qu'est-ce qu'un comportement dangereux ou menaçant pour un raciste, pour un xénophobe ou pour un homophobe ? Voilà le risque que vous faites courir au pays tout entier !

Avec l'article 7, nous assistons à une extension sans précédent des dispositifs de surveillance. La vidéosurveillance algorithmique, loin d'être une simple évolution technologique, modifiera en profondeur notre rapport à l'espace public – il ne sera plus un lieu libre, mais une zone de contrôle et de normalisation des comportements. Les machines analyseront en permanence nos mouvements. Toutes proportions gardées, il est difficile de ne pas songer aux régimes illibéraux qui nous servent habituellement de repoussoir. Par exemple, Xi Jinping, alors qu'il était chargé de l'organisation des Jeux olympiques de Pékin de 2008, a déployé un réseau de vidéosurveillance pour assurer la sécurité de l'événement ; une fois devenu chef...

...ns doute pas cette forme. Comment la VSA peut-elle comprendre la différence entre un pogo, ou un wall of death – un mur de la mort –, tels que les festivaliers en pratiquent au Hellfest, dans mon beau département de Loire-Atlantique, et un mouvement de foule dans un stade, par exemple ? Les exigences de sécurité ne sont pas les mêmes. De plus, les caméras sont programmées pour déceler des comportements dangereux ou inadaptés mais, comme l'indique le directeur des Eurockéennes de Belfort, « en festival, les comportements anormaux sont la norme ». Les acteurs et actrices du secteur ont déjà interpellé le Gouvernement sur ces problèmes et l'absence de réponse ou d'argument solide nous montre bien que votre projet est irréfléchi. Les amendements de suppression de l'article déposés par mon groupe j...

...onsidérable de données issues des caméras installées sur la voie publique. Ce projet de loi ne s'en tient pas à servir les intérêts des entreprises du secteur des technologies de surveillance. En ouvrant la porte à la vidéosurveillance par traitement algorithmique, ces logiciels pourront filmer potentiellement n'importe lequel de nos concitoyens et catégoriser de manière totalement arbitraire un comportement parmi ceux à risque – nous savons d'ores et déjà que ces algorithmes induisent des biais discriminatoires aux relents racistes et validistes. Derrière la façade de la tolérance, du sport et du partage, les Jeux olympiques et paralympiques (JOP), par leur exceptionnalité, risquent bel et bien de permettre le tout-sécuritaire et de le sanctuariser. Avec ce projet de loi qui surenchérit en la matiè...

...ractérise avant tout l'humanité, c'est l'empathie – parfois partagée avec les animaux –, c'est-à-dire la capacité, par essence et par nature, de ressentir ce que l'autre peut effectivement ressentir. Avec le recours à l'analyse algorithmique, l'autre devient celui qui est a priori radicalement différent de moi, celui qui est a priori suspect et qui a priori pourrait avoir un comportement dangereux. C'est ce qui nous préoccupe, bien plus que toutes les arguties techniques car c'est le symbole d'une relation à l'autre déshumanisée, technicisée, à l'image de la relation police-population que vous induisez quand vous faites porter aux policiers tous ces équipements et que vous mettez certains sur des mobylettes, avec, à l'arrière, un collègue portant un bâton qui rappelle celui des p...

...s précédents amendements. Je le répète, nous sommes opposés aux traitements algorithmiques des images, par principe, par philosophie, par éthique, comme l'a rappelé notre collègue Élisa Martin, parce que nous pensons que l'autre n'est pas par définition un suspect, que nous sommes doués d'empathie et mus par un humanisme certain, et parce que le paramétrage de l'algorithme, visant à détecter les comportements dits anormaux, ne fait que reproduire les biais de la société, notamment les biais discriminatoires. Cibler un comportement anormal, c'est discriminer les individus ou à tout le moins faire un tri entre les comportements « normaux » et « anormaux ». Par principe et par philosophie politique, nous ne pouvons accepter de telles méthodes ni un tel fonctionnement pour notre société. Enfin et surto...

Nous vous proposons la réécriture de l'article 7 en sept points. En premier lieu, la mise en œuvre de traitements algorithmiques couplés à la vidéosurveillance doit être strictement limitée à la détection de l'abandon de bagages, les termes flous de la rédaction du Sénat – un « comportement anormal » – impliquant un risque de surveillance généralisée. En outre, en limitant cette technologie à la seule détection des abandons de bagages, on maximise son efficacité alors qu'en multipliant les situations qu'il faut détecter, on multiplie également les risques d'erreurs de l'algorithme. Deuxièmement, la mise en œuvre de cette technologie doit être limitée à la seule période nécessaire, ...

...l'organisation. Je ne sais pas qui était ce soir-là au poste de commandement. Peut-être le ministre était-il visé, même si le préfet de police a endossé toute la responsabilité avec une grande élégance. Je veux que nos collègues cheminent intellectuellement avec nous s'agissant de la question centrale que pose le traitement algorithmique : comment celui-ci sera-t-il programmé pour identifier des comportements anormaux ? Qu'attendrons-nous de lui ? Il s'agit d'abord de définir un comportement anormal. Est-il normal de lancer une grenade lacrymogène en cloche, de sorte qu'elle atterrisse sur la tête d'un manifestant ?

À l'occasion des Jeux olympiques et paralympiques, il y aura sans doute des scènes de violence, ou de « maintien de l'ordre », comme vous les appelez, monsieur le ministre. Comment ferez-vous pour détecter ce type de comportement ? Est-ce qu'on échappe à la détection de l'algorithme si l'on porte une armure qui ressemble à celle de RoboCop ?

Le programmerez-vous pour décider qu'est normal le comportement d'un individu qui commet des violences, s'il porte une armure ?

Revenons à la définition des comportements déviants, que les dispositifs d'intelligence artificielle sont censés repérer. Je vois ici beaucoup de spécialistes de l'informatique, du numérique et de l'algorithmique. Prenons l'exemple précédemment évoqué du camion qui déboule à Nice le soir du 14 juillet. Croyez-vous sérieusement qu'un informaticien aurait imaginé coder un programme suffisamment puissant pour prédire un tel événement ? Bien...

Nous voterons contre ces amendements. Vous êtes sur un terrain glissant. Vous parlez de comportement déviant ; M. Bernalicis s'interroge sur ce qui est normal ou anormal. Or comment réagira la caméra algorithmique quand Éric Coquerel frappe un policier ?

Est-ce normal ou anormal ? S'agit-il ou non d'un comportement déviant ? Il faut défendre les forces de l'ordre quand elles font leur travail ; évidemment, s'il y a des bavures policières, nous les dénoncerons aussi. Mais ceux qui appartiennent au groupe La France insoumise devraient avoir honte du comportement du président de la commission des finances.

...s à le mettre en cause. Comme tout le monde, vous avez vu les images et constaté qu'il n'a frappé personne. Il a porté plainte pour diffamation. Je vous arrête : vous ne pouvez pas proférer ce genre de bêtises en sachant pertinemment que ce sont des mensonges, surtout pour masquer votre refus de parler de la vidéosurveillance et de ses effets potentiels sur les gens. Il faut pouvoir détecter les comportements anormaux, dites-vous : nous aimerions bien savoir ce qu'ils sont précisément.

...elques centaines de millions. Cela vous permet d'afficher un résultat dont vous vous prévalez, mais les 80 à 100 milliards d'euros annuels d'évasion fiscale ont pour conséquence de faire travailler tout le monde deux ans de plus. On peut assurer davantage de sécurité et de bonheur dans notre pays grâce à l'intelligence artificielle, mais pas avec celle que vous souhaitez utiliser pour mesurer les comportements cinétiques de nos compatriotes.

...nce par algorithmes pourra être utilisée non seulement pour des événements sportifs de manière très large mais aussi pour des festivals, des carnavals, ou encore pour des défilés festifs, ce qui paraît être totalement disproportionné. On imagine déjà les drones armés de ces algorithmes survoler Rock en Seine, la Techno Parade ou la Marche des fiertés et analyser les participants. Et alors ? Quels comportements seront considérés par l'algorithme comme anormaux ? Vous voyez avec ces exemples que ce champ extrêmement large représente un véritable danger en termes de discriminations et constitue un premier pas vers une société de surveillance généralisée à laquelle les écologistes sont fermement opposés. Nous proposons donc de réduire le champ d'application de la vidéosurveillance algorithmique aux seule...

...enu quelque chose d'approchant, monsieur le ministre, vous m'excuserez si je ne suis pas tout à fait exact. On ajoute à ces festivals une charge supplémentaire. En effet, je rappelle que dans ce genre de festivals, le public n'est pas forcément très ouvert à l'idée d'être surveillé par des caméras et encore moins par des caméras algorithmiques. J'ajoute une question subsidiaire : qu'est-ce qu'un comportement anormal en festival ? Je ne sais pas si vous allez souvent en festival. Le pogo, par exemple, sera-t-il considéré comme un comportement anormal ?