Amendement N° 513 (Non soutenu)

L’algorithme proposé par l’article 7, de par son fonctionnement, sera amené à identifier par lui-même les caractéristiques qui lui permettent de détecter de la manière la plus certaine et pertinente ce qu’il est censé rechercher à partir des images qui lui auront servi à s’entraîner et qui l’auront nourri, sans que les être humains n’aient de contrôle réel sur ces critères en raison du deep learning. Or cela constitue un problème majeur qui ne doit pas être minimisé.

En effet, si l’algorithme considère que certaines caractéristiques telles que le port d’un vêtement particulier ou une couleur de peau sont plus susceptibles d’être associées au risque recherché, il les intégrera et sera donc amené à les utiliser de manière indifférenciée avec d’autres caractéristiques pour effectuer un signalement d’un comportement jugé anormal. Outre le fait qu’il se fondera sur des données biométriques, cela fait de l’utilisation de la vidéosurveillance par algorithme une pratique potentiellement discriminatoire et raciste et pose clairement la question de la constitutionnalité du dispositif, aucun garde-fou contre cette dérive n’étant, encore une fois, techniquement possible.

De plus, la liberté qui sera laissée aux concepteurs de l’algorithme pour mettre au point les paramètres du logiciel chargé d’aider à assurer le maintien de la sécurité publique en détectant des comportements “anormaux”, dont la définition même constituera une stigmatisation d’une partie de la population et engendrera des discriminations, étant édictée selon les normes de ceux qui la conçoivent, renvoyant les comportements des personnes les moins intégrées socialement à des “comportements déviants”, pose un problème majeur.

Il est donc absolument nécessaire de supprimer cet article, qui viole les principes démocratiques de notre pays et les valeurs de l’Union européenne.