Interventions sur "comportement"

Avec l'article 7, nous assistons à une extension sans précédent des dispositifs de surveillance. La vidéosurveillance algorithmique, loin d'être une simple évolution technologique, modifiera en profondeur notre rapport à l'espace public – il ne sera plus un lieu libre, mais une zone de contrôle et de normalisation des comportements. Les machines analyseront en permanence nos mouvements. Toutes proportions gardées, il est difficile de ne pas songer aux régimes illibéraux qui nous servent habituellement de repoussoir. Par exemple, Xi Jinping, alors qu'il était chargé de l'organisation des Jeux olympiques de Pékin de 2008, a déployé un réseau de vidéosurveillance pour assurer la sécurité de l'événement ; une fois devenu chef...

...ns doute pas cette forme. Comment la VSA peut-elle comprendre la différence entre un pogo, ou un wall of death – un mur de la mort –, tels que les festivaliers en pratiquent au Hellfest, dans mon beau département de Loire-Atlantique, et un mouvement de foule dans un stade, par exemple ? Les exigences de sécurité ne sont pas les mêmes. De plus, les caméras sont programmées pour déceler des comportements dangereux ou inadaptés mais, comme l'indique le directeur des Eurockéennes de Belfort, « en festival, les comportements anormaux sont la norme ». Les acteurs et actrices du secteur ont déjà interpellé le Gouvernement sur ces problèmes et l'absence de réponse ou d'argument solide nous montre bien que votre projet est irréfléchi. Les amendements de suppression de l'article déposés par mon groupe j...

...onsidérable de données issues des caméras installées sur la voie publique. Ce projet de loi ne s'en tient pas à servir les intérêts des entreprises du secteur des technologies de surveillance. En ouvrant la porte à la vidéosurveillance par traitement algorithmique, ces logiciels pourront filmer potentiellement n'importe lequel de nos concitoyens et catégoriser de manière totalement arbitraire un comportement parmi ceux à risque – nous savons d'ores et déjà que ces algorithmes induisent des biais discriminatoires aux relents racistes et validistes. Derrière la façade de la tolérance, du sport et du partage, les Jeux olympiques et paralympiques (JOP), par leur exceptionnalité, risquent bel et bien de permettre le tout-sécuritaire et de le sanctuariser. Avec ce projet de loi qui surenchérit en la matiè...

...ractérise avant tout l'humanité, c'est l'empathie – parfois partagée avec les animaux –, c'est-à-dire la capacité, par essence et par nature, de ressentir ce que l'autre peut effectivement ressentir. Avec le recours à l'analyse algorithmique, l'autre devient celui qui est a priori radicalement différent de moi, celui qui est a priori suspect et qui a priori pourrait avoir un comportement dangereux. C'est ce qui nous préoccupe, bien plus que toutes les arguties techniques car c'est le symbole d'une relation à l'autre déshumanisée, technicisée, à l'image de la relation police-population que vous induisez quand vous faites porter aux policiers tous ces équipements et que vous mettez certains sur des mobylettes, avec, à l'arrière, un collègue portant un bâton qui rappelle celui des p...

...s précédents amendements. Je le répète, nous sommes opposés aux traitements algorithmiques des images, par principe, par philosophie, par éthique, comme l'a rappelé notre collègue Élisa Martin, parce que nous pensons que l'autre n'est pas par définition un suspect, que nous sommes doués d'empathie et mus par un humanisme certain, et parce que le paramétrage de l'algorithme, visant à détecter les comportements dits anormaux, ne fait que reproduire les biais de la société, notamment les biais discriminatoires. Cibler un comportement anormal, c'est discriminer les individus ou à tout le moins faire un tri entre les comportements « normaux » et « anormaux ». Par principe et par philosophie politique, nous ne pouvons accepter de telles méthodes ni un tel fonctionnement pour notre société. Enfin et surto...

Nous vous proposons la réécriture de l'article 7 en sept points. En premier lieu, la mise en œuvre de traitements algorithmiques couplés à la vidéosurveillance doit être strictement limitée à la détection de l'abandon de bagages, les termes flous de la rédaction du Sénat – un « comportement anormal » – impliquant un risque de surveillance généralisée. En outre, en limitant cette technologie à la seule détection des abandons de bagages, on maximise son efficacité alors qu'en multipliant les situations qu'il faut détecter, on multiplie également les risques d'erreurs de l'algorithme. Deuxièmement, la mise en œuvre de cette technologie doit être limitée à la seule période nécessaire, ...

...l'organisation. Je ne sais pas qui était ce soir-là au poste de commandement. Peut-être le ministre était-il visé, même si le préfet de police a endossé toute la responsabilité avec une grande élégance. Je veux que nos collègues cheminent intellectuellement avec nous s'agissant de la question centrale que pose le traitement algorithmique : comment celui-ci sera-t-il programmé pour identifier des comportements anormaux ? Qu'attendrons-nous de lui ? Il s'agit d'abord de définir un comportement anormal. Est-il normal de lancer une grenade lacrymogène en cloche, de sorte qu'elle atterrisse sur la tête d'un manifestant ?

À l'occasion des Jeux olympiques et paralympiques, il y aura sans doute des scènes de violence, ou de « maintien de l'ordre », comme vous les appelez, monsieur le ministre. Comment ferez-vous pour détecter ce type de comportement ? Est-ce qu'on échappe à la détection de l'algorithme si l'on porte une armure qui ressemble à celle de RoboCop ?

Le programmerez-vous pour décider qu'est normal le comportement d'un individu qui commet des violences, s'il porte une armure ?

Revenons à la définition des comportements déviants, que les dispositifs d'intelligence artificielle sont censés repérer. Je vois ici beaucoup de spécialistes de l'informatique, du numérique et de l'algorithmique. Prenons l'exemple précédemment évoqué du camion qui déboule à Nice le soir du 14 juillet. Croyez-vous sérieusement qu'un informaticien aurait imaginé coder un programme suffisamment puissant pour prédire un tel événement ? Bien...

Nous voterons contre ces amendements. Vous êtes sur un terrain glissant. Vous parlez de comportement déviant ; M. Bernalicis s'interroge sur ce qui est normal ou anormal. Or comment réagira la caméra algorithmique quand Éric Coquerel frappe un policier ?

Est-ce normal ou anormal ? S'agit-il ou non d'un comportement déviant ? Il faut défendre les forces de l'ordre quand elles font leur travail ; évidemment, s'il y a des bavures policières, nous les dénoncerons aussi. Mais ceux qui appartiennent au groupe La France insoumise devraient avoir honte du comportement du président de la commission des finances.

...s à le mettre en cause. Comme tout le monde, vous avez vu les images et constaté qu'il n'a frappé personne. Il a porté plainte pour diffamation. Je vous arrête : vous ne pouvez pas proférer ce genre de bêtises en sachant pertinemment que ce sont des mensonges, surtout pour masquer votre refus de parler de la vidéosurveillance et de ses effets potentiels sur les gens. Il faut pouvoir détecter les comportements anormaux, dites-vous : nous aimerions bien savoir ce qu'ils sont précisément.

...elques centaines de millions. Cela vous permet d'afficher un résultat dont vous vous prévalez, mais les 80 à 100 milliards d'euros annuels d'évasion fiscale ont pour conséquence de faire travailler tout le monde deux ans de plus. On peut assurer davantage de sécurité et de bonheur dans notre pays grâce à l'intelligence artificielle, mais pas avec celle que vous souhaitez utiliser pour mesurer les comportements cinétiques de nos compatriotes.

...nce par algorithmes pourra être utilisée non seulement pour des événements sportifs de manière très large mais aussi pour des festivals, des carnavals, ou encore pour des défilés festifs, ce qui paraît être totalement disproportionné. On imagine déjà les drones armés de ces algorithmes survoler Rock en Seine, la Techno Parade ou la Marche des fiertés et analyser les participants. Et alors ? Quels comportements seront considérés par l'algorithme comme anormaux ? Vous voyez avec ces exemples que ce champ extrêmement large représente un véritable danger en termes de discriminations et constitue un premier pas vers une société de surveillance généralisée à laquelle les écologistes sont fermement opposés. Nous proposons donc de réduire le champ d'application de la vidéosurveillance algorithmique aux seule...

...enu quelque chose d'approchant, monsieur le ministre, vous m'excuserez si je ne suis pas tout à fait exact. On ajoute à ces festivals une charge supplémentaire. En effet, je rappelle que dans ce genre de festivals, le public n'est pas forcément très ouvert à l'idée d'être surveillé par des caméras et encore moins par des caméras algorithmiques. J'ajoute une question subsidiaire : qu'est-ce qu'un comportement anormal en festival ? Je ne sais pas si vous allez souvent en festival. Le pogo, par exemple, sera-t-il considéré comme un comportement anormal ?

…saute, crie, quand on fait un slam, est-ce un comportement anormal ? Ce sera extrêmement compliqué de déterminer ce qu'est un comportement problématique dans un festival de musique qui accueille parfois énormément de public – du reste, je rappelle que la jauge définie par ce projet de loi est très basse.

Revenons-en à des questions de vocabulaire, puisqu'il va bien falloir qu'on parvienne à établir une différence entre vidéoprotection et vidéosurveillance, et à définir un comportement suspect. Je vais à nouveau tenter d'être la plus concrète possible. Nous sommes dans une gare et une pauvre personne sans logis est couchée par terre. Si nous avons affaire à un système de vidéoprotection, le 115 est dépêché pour mettre la personne en question à l'abri. S'il s'agit de vidéosurveillance, qu'en sera-t-il ? N'avoir pas d'argent, pas de résidence, errer sans but dans une gare au l...

Puisque nous parlons de comportements anormaux et que la période des Jeux olympiques sera propice aux expérimentations, peut-être pourrions-nous soumettre aux algorithmes les vidéos de nos séances publiques ?

Certes, vous détecteriez ainsi les lives sur Twitch, mais la chose est facile : il y a une notification, si vous êtes abonnés. Je pensais à des comportements plus insidieux, tels que les bras d'honneur. Parfois, nous avons du retard à l'allumage, on ne les voit pas bien, ils sont faits un peu en loucedé ; l'algorithme nous aiderait à les percevoir ! Il convient seulement de définir ce qui est normal ou anormal :…