Interventions sur "algorithme"

...effet à toutes les manifestations sportives, culturelles et récréatives jusqu'en 2025, soit une période qui s'étend bien au-delà des Jeux. En outre, le champ d'application est très large et parfois sans lien avec les événements prévus au titre des JO. J'en viens à la protection des données personnelles. L'identification des comportements ou événements dits anormaux repose sur l'entraînement de l'algorithme et suppose de recueillir au préalable un nombre considérable d'images. Même s'il est expressément prévu de respecter la durée de conservation des images utilisées pour l'apprentissage des traitements, elles pourront en fait toujours être générées de nouveau et ne seront donc jamais réellement éliminées. Cette réalité technique rend inopérante les dispositions prévues par l'article. De plus, la r...

...raitements en tout temps et en tout lieu. L'article 7 distingue quatre phases successives au cours desquelles la CNIL exercera un contrôle approfondi et permanent : le recours à ces traitements, leur développement, leur emploi sur le terrain et leur évaluation. De nombreuses exigences sont prévues par le texte, qu'il s'agisse de l'encadrement de l'utilisation des données servant à entraîner les algorithmes, de l'analyse d'impact sur la protection des données qui doit être réalisée, de l'attestation de conformité qui devra être délivrée ou des modalités de la mise en œuvre de l'expérimentation. Ce dispositif est prévu à titre expérimental. Je récuse le parti pris qui consiste, de façon un peu paradoxale, à craindre le toboggan vers une société orwellienne tout en déplorant avec certitude la préten...

...me une intelligence humaine, ne fait pas de différence entre un visage et un corps. Cet outil intrusif peut définir les caractéristiques de chaque être humain et il le fera de toute personne qui va passer dans son champ de vision car il a besoin d'être nourri pour mieux se vendre sur les marchés. Transformer chaque participant aux Jeux olympiques et paralympiques, chaque spectateur, en cobaye des algorithmes de BriefCam, pour ne citer que cette entreprise qui équipe de nombreuses villes françaises, tel est l'objet de l'article 7. La mission du législateur n'est pas de transformer la population en cobaye dans l'intérêt financier de quelques entreprises. Il est donc urgent de supprimer cet article, d'autant plus qu'il s'agit d'un cavalier puisqu'il vise à inscrire ces systèmes dans la loi. Je ne pense...

...oins sûr car de nombreuses entreprises françaises sont expertes en ce domaine et, d'autre part, le cas échéant, l'État, au travers de la CNIL et de l'ANSSI, l'Agence nationale de sécurité des systèmes d'information, conserverait le contrôle du dispositif. Le décret sera pris après avis de la CNIL pour bien encadrer la mesure. Enfin, n'ayez crainte, nous ne serons pas les champions d'Europe de l'algorithme. Beaucoup, parmi les représentants de la NUPES, citent l'Espagne en exemple. Or les Espagnols sont passés à la reconnaissance faciale. Peut-on parler d'atteinte aux données personnelles lorsque la reconnaissance faciale est utilisée pour définir un profil de personne plus susceptible qu'une autre d'être agressée ? Nous avons entouré ce dispositif de nombreuses garanties, que le Sénat a renforcée...

Les inquiétudes sont légitimes et doivent être entendues. N'oublions pas, cependant, que ces algorithmes peuvent aussi être utilisés pour protéger la population. Par exemple, si l'on peut détecter en temps réel un mouvement de foule susceptible de dégénérer, on peut envoyer immédiatement des forces de l'ordre pour l'éviter. Je pense qu'il vaut mieux accompagner qu'interdire. Je m'intéresse particulièrement à Midjourney, programme d'intelligence artificielle qui permet de créer des images tr...

Nous nous opposerons à l'amendement de Mme Martin qui vise à écarter l'article 7. Celui de M. Vicot est plus subtil et pourrait presque emporter notre adhésion, en particulier pour ce qui concerne le raccourcissement du délai d'expérimentation, s'il ne limitait pas le champ d'application des algorithmes au repérage des objets abandonnés, ce qui serait excessif. La priorité est d'aider les agents chargés de visionner des milliers d'images par minute, à détecter des mouvements de foule ou des agissements suspects. L'attentat perpétré à Nice témoigne de l'incapacité pour ces agents de traiter correctement les flux d'images. En revanche la décision appartiendra toujours à l'homme et jamais à la mac...

Ne confondons pas algorithme et intrusion dans la vie privée. L'algorithme n'est qu'un outil qui pourrait servir, en l'espèce, à détecter des mouvements de foule ou des bagages suspects. En aucun cas, il ne pourrait servir à repérer un individu grâce à la reconnaissance faciale. Les Jeux olympiques et paralympiques sont un événement d'envergure internationale et nous devons nous donner les moyens d'en assurer la sécurité. E...

...ur les dysfonctionnements au sein de l'administration pénitentiaire et de l'appareil judiciaire ayant conduit à l'assassinat d'un détenu à la maison centrale d'Arles. Il ressort des auditions que l'être humain s'habitue aux écrans et ne perçoit plus, au bout de plusieurs heures, l'anormalité d'un événement. Les chercheurs entendus nous ont confirmé ce phénomène, qui a aussi été constaté à Nice. L'algorithme permet de pointer ces événements pour permettre à l'agent de réagir. Enfin, les Jeux olympiques et paralympiques s'étendent de juillet à septembre et il sera donc nécessaire de disposer de ces outils tout au long de la période car ces événements pourraient être des cibles potentielles.

Ce n'est pas la première fois qu'une expérimentation à grande échelle nous est proposée avant de disposer d'études nous permettant d'en mesurer les effets, comme nous l'avons constaté avec la vidéosurveillance – dont certaines études indépendantes montrent d'ailleurs qu'elle n'apporte pas grand-chose. J'ai hâte de savoir ce qu'il en sera pour la VSA… Vous arguez qu'un algorithme repérant des points sur des corps est capable de détecter un mouvement de foule. Or, c'est scientifiquement impossible parce que, reposant sur des données vectorielles, il ne peut pas différencier les personnes…à moins d'une intégration de la reconnaissance faciale, ce qui relèverait d'un autre registre. Enfin, comme vous le savez, monsieur le rapporteur, il n'y a pas d'amour : il n'y a que des ...

Le mot « expérimentation » peut en effet faire peur mais l'idée, c'est d'« entraîner » les algorithmes avant les Jeux olympiques afin de vérifier leur pertinence. D'où leur expérimentation à l'occasion de la Coupe du monde de rugby et du Triathlon de Paris, qui aura lieu le long de la Seine, comme la cérémonie d'ouverture des Jeux. De plus, les algorithmes sont parfaitement à même d'attribuer un point à un corps pour reconnaître le risque que présenterait une file d'attente ou l'agrégation d'une...

Non seulement l'expérimentation est trop étendue dans le temps mais les manifestations couvertes sont aussi beaucoup trop vastes puisque le texte mentionne des « manifestations sportives, récréatives ou culturelles ». Des drones armés de cet algorithme survoleront-ils le festival Rock en Seine, la Techno Parade ou la Marche des fiertés ? Quels comportements, alors, seront-ils considérés comme anormaux ? Le danger de discrimination est réel et ce dispositif constitue le premier pas vers une société de surveillance généralisée. Nous proposons donc de réduire le champ d'application de la vidéosurveillance algorithmique aux seules manifestations s...

...s Jeux olympiques et paralympiques, faire en sorte qu'aucune attaque terroriste ne puisse avoir lieu et qu'aucun incident ne se produise à la suite de mouvements de foule durant tous les événements qui se dérouleront pendant cette période. Il ne faut pas prendre les apprentis terroristes pour des benêts : s'ils ne peuvent pas nuire sur un stade olympique, ils chercheront à le faire ailleurs. Les algorithmes ont besoin d'un apprentissage à partir de bases de données d'images de foules – et non d'individus – afin de pouvoir signaler aux forces de l'ordre des événements anormaux. Il n'y a aucune ambiguïté.

Des manifestations récréatives et culturelles se dérouleront au moment des Jeux olympiques. Le parc de La Villette, notamment, accueillera des fan zone, donc, des familles, dans un cadre qui ressemblera à celui d'un concert en plein air. Les algorithmes pourront y « apprendre », ce que permettront également la Coupe du monde de rugby et le Triathlon de Paris. Les données récupérées permettront d'éliminer les bruits de fond et nous saurons quelle caméra filme quel endroit. L'efficacité, ainsi, sera maximale lors des Jeux. Des décrets spécifiques concerneront chacune des expérimentations parce que nous avons besoin de savoir ce qui peut se passe...

...intérêt général et si elles mériteraient, à ce titre, d'être pérennisées. Ce terme ne renvoie en aucun cas à l'idée d'une expérience en laboratoire. L'objectif de cet article est d'assurer la sécurité d'un événement majeur, la tenue des Jeux olympiques et paralympiques, et nous devons, pour ce faire, utiliser tous les outils à notre disposition. Si des caméras aéroportées parviennent, grâce à un algorithme, à repérer des situations anormales, comme des mouvements de foule ou des colis abandonnés – ce qu'une caméra fixe ne peut pas toujours faire –, il n'y a pas de raison de s'en priver. Avis défavorable.

Vous voulez mettre des drones partout, mais cela pose un certain nombre de problèmes concrets. À Paris, les drones se font régulièrement attaquer par des goélands, or votre texte ne dit rien à ce sujet. Faut-il mettre des caméras sur les drones pour filmer l'éventuelle attaque d'un goéland, voire pour l'anticiper ? A-t-on un algorithme pour cela ?

Il nous paraît essentiel d'identifier précisément ce qui fera l'objet d'une surveillance. La rédaction qui nous vient du Sénat est très floue, puisqu'elle vise des « événements prédéterminés susceptibles de présenter ou de révéler ces risques ». J'ajoute que l'algorithme sera plus efficace si on lui confie la détection d'un seul type de comportement ; si on les multiplie, on multiplie aussi les risques d'erreurs. Il me paraît donc essentiel de limiter l'usage de cette technologie à la détection des bagages abandonnés.

...s les informations données aux spectateurs. Nous nourrissons la même crainte pour les forces de sécurité, dont la maîtrise de la langue anglaise est apparue comme toute relative lors du fiasco du Stade de France le 28 mai dernier, cette lacune étant l'une des raisons majeures de l'échec de la gestion du flux de la foule. Il serait dommage que tout l'argent investi dans la vidéosurveillance et les algorithmes aboutisse à la reproduction des mêmes problèmes parce que nous n'aurions pas analysé les causes de nos déconvenues et que nous aurions préféré continuer à appliquer les mêmes recettes, dont le bilan est de nombreux blessés et une honte internationale jetée sur notre pays. Le même silence résonne pour l'information des personnes en situation de handicap, qui seront nombreuses à se déplacer dans ...

Vous avez évoqué la société orwellienne, mais là nous nous approchons du spectre de la société chinoise que nos concitoyens ne jugent pas désirable. Le Conseil d'État a déjà interdit ce dispositif de codage algorithmique. Qui contrôle cette fonction mathématique qui n'a rien de prédictif ? On peut laisser entendre que les gens se sentiront en sécurité ou en sûreté parce que des algorithmes détecteront en amont les éventuels dangers qui menaceraient un événement public, mais il est très peu probable qu'un algorithme ait pu empêcher l'attentat de Nice car il n'aurait pas vu dans un camion transportant des marchandises une potentielle arme. Un algorithme ne peut pas prédire, il ne peut qu'entériner ce qui s'est déjà produit ; il ne sert qu'à détecter des anomalies, donc une personne ...

La CNIL intervient en amont de la délivrance de l'attestation de conformité ; en outre, un contrôle s'exerce à chaque étape ; enfin, le code de l'algorithme n'apparaît pas dans les textes incidemment : s'il y a bien quelque chose qui pourrait servir aux terroristes, ce serait la maîtrise du code de l'algorithme et des moyens de le contourner. Je ne soutiendrai bien entendu pas ces amendements. Pour être honnête, j'ai très longtemps hésité sur l'avis à donner sur la suppression de la fin de l'alinéa 3 de l'article, avant de décider d'y être défavorab...

Nos amendements visent parfois à supprimer une disposition du texte, mais cet amendement propose d'en ajouter une nouvelle, à savoir l'intégration dans le champ de l'information du public d'une totale transparence sur le code de l'algorithme développé. Comme cela a été dit par les ardents défenseurs de cette vidéosurveillance intelligente, les comportements anormaux ciblés devront avoir été programmés au préalable. Si on constate, par exemple, que des camionnettes blanches sont souvent utilisées dans des cambriolages, les opérateurs seront avertis de l'arrivée d'un tel véhicule dans une zone surveillée – je prends l'exemple d'une cam...