Interventions sur "traitement"

L'alinéa 9 prévoit que le décret pris après avis de la CNIL précisera les « conditions d'habilitation des agents pouvant accéder aux résultats des traitements ». Par coordination, je propose de préciser que seuls des « agents individuellement désignés et dûment habilités » pourront, au sein des services autorisés, utiliser des traitements algorithmiques.

Ce sont bien des services, et non les agents qui les composent, qui pourront être autorisés à utiliser des traitements algorithmiques. Au sein de ces services, seuls les agents habilités et formés pourront accéder aux signalements générés par ces traitements, comme le prévoit l'alinéa 9. Avis défavorable.

Je propose d'indiquer clairement que « cette expérimentation ne saurait en aucun cas préjuger d'une pérennisation de ces traitements ». Il importe que l'on ait un retour d'expérience avant d'envisager son éventuelle pérennisation.

Nous proposons de préciser clairement que les traitements algorithmiques ne pourront pas être utilisés dans le cadre de manifestations à caractère politique – par exemple contre la réforme des retraites ou à l'occasion du 1er mai.

...osons qu'aucune dérogation au devoir d'information du public quant à l'existence de la vidéosurveillance ne soit possible et, donc, de supprimer les dispositions les plus floues de l'article L. 242-3 du code de la sécurité intérieure qui soulèvent un certain nombre de problèmes en termes de droits et de libertés. En outre, nous proposons d'instaurer un cadre juridique clair quant aux systèmes de traitement de données à caractère personnel. Il convient d'inscrire noir sur blanc dans la loi l'interdiction de la reconnaissance faciale et de l'institution de systèmes biométriques à distance, comme le demande le Comité européen de la protection des données (CEPD) dans son avis du 18 juin 2021 concernant la proposition de règlement européen sur l'intelligence artificielle. Enfin, nous proposons un amend...

L'article 14 du RGPD reprend les mêmes termes et nous avons choisi de les maintenir partout. Avis défavorable. L'identification par la reconnaissance faciale et les données biométriques est exclue de la loi. À l'exception du système Parafe déployé dans les aéroports et des moyens utilisés dans le cadre de la consultation du traitement des antécédents judiciaires, la reconnaissance faciale n'est pas autorisée en France et l'article 7 l'interdit même expressément. Demande de retrait ou avis défavorable.

Ces événements donneront lieu à une information, conformément au paragraphe 5 de l'article 14 du RGPD : « Les paragraphes 1 à 4 ne s'appliquent pas lorsque et dans la mesure où : […] l'obligation visée au paragraphe 1 du présent article est susceptible de rendre impossible ou de compromettre gravement la réalisation des objectifs dudit traitement ». En revanche, dans des cas exceptionnels comme une alerte à la bombe nécessitant le décollage d'un drone, il n'y aura pas d'information préalable.

S'il est utile de prévoir que l'entraînement des traitements algorithmiques est soumis au RGPD et à la loi du 6 janvier 1978, il convient de préciser que ce sont ces traitements, lors de la phase de conception, qui sont assujettis au respect de ces dispositions. L'article 6 du projet de loi prévoit déjà de soumettre les systèmes de vidéoprotection, dont les images captées peuvent être utilisées à des fins d'apprentissage des traitements algorithmiques, a...

Nous proposons, à titre expérimental et jusqu'au 8 septembre 2024, de rendre passible de trois ans de prison et 45 000 euros d'amende le fait pour une personne physique ou morale de mettre en œuvre dans l'espace public un traitement automatique des images au moyen d'un algorithme. L'article 6 adopté ce matin a modifié l'article L. 254-1 du code de la sécurité intérieure en sorte que n'est plus considérée comme infraction que la seule entrave à l'action de la commission départementale de vidéoprotection. Il serait dommage d'omettre dans cette catégorie le fait d'installer un système de vidéosurveillance dans des lieux non au...

Le terme « préalable » renvoie à une temporalité non à un périmètre ; des arrêtés préciseront la délimitation de ceux-ci, y compris pour les drones dont les images feront l'objet d'un traitement algorithmique. Oui, les gens seront informés en temps et en heure.

L'amendement CL302 vise à supprimer la fin de l'alinéa 3 de l'article. L'enregistrement de données soumises à des traitements algorithmiques exige une information du public concerné, dont le principe ne doit souffrir aucune exception ni aucun contournement. Le début de l'alinéa prévoit bien l'information du public sur l'emploi de traitements algorithmiques sur les images collectées par des systèmes de vidéosurveillance ou des drones, reprenant ainsi une formulation que le législateur avait dû insérer dans la loi pour ...

...ratique à des situations d'urgence, en particulier dans la lutte contre le terrorisme qui exige de n'informer le public ni au préalable, ni en temps réel : en cas d'alerte à la bombe, on peut faire décoller un drone pour vérifier la menace, mais on ne peut pas informer le public sur l'action de l'aéronef. En outre, cette formule est nécessaire à la cohérence du droit actuel, dans la mesure où ces traitements algorithmiques pourront être couplés à des caméras aéroportées, pour lesquelles une exception identique figure à l'article L. 242-3 du code de la sécurité intérieure. Enfin, cette exception s'appuie sur l'article 14 du RGPD, qui utilise les mêmes termes: il n'y a donc aucune évolution du droit portant préjudice à l'information du public. J'émets un avis défavorable, même si, encore une fois, j'a...

...u par leurs créateurs. Dans son avis du 8 décembre sur le projet de loi, la CNIL considère que les outils d'analyse automatisés des images peuvent entraîner des risques importants pour les libertés individuelles et collectives, ainsi qu'un risque de surveillance et d'analyse dans l'espace public : on ne peut pas dire qu'elle soutienne franchement votre dispositif. Le Conseil d'État estime que le traitement des images est susceptible de mettre en cause la protection de la vie privée ainsi que d'autres droits et libertés fondamentales, telles que les libertés d'aller et venir, d'opinion et de manifestation. La transparence et l'accessibilité des traitements algorithmiques sont essentielles : le flou n'est pas acceptable alors que les forces de l'ordre décideront ou non d'intervenir, pendant une pério...

... ont remarqué que l'analyse des images et le recours à l'intelligence artificielle posaient des questions de libertés publiques, qui exigeaient de trouver un équilibre entre la sécurité des personnes et le respect des données personnelles et des libertés publiques. C'est bien pour cela que l'article 7 offre les garanties nécessaires à l'usage de la surveillance par intelligence artificielle et au traitement des données. Si nous avons confirmé le dispositif de dérogations dont nous avons parlé précédemment, c'est bien parce qu'il figure à l'article 23 du RGPD, règlement dont vous avez affirmé récemment, madame Regol, qu'il était une conquête des écologistes ; je ne peux imaginer que ceux-ci y aient laissé des dispositions liberticides. Rendre public le code de l'algorithme reviendrait à aider tous ...

Votre amendement est déjà satisfait par l'alinéa 14 de l'article, qui se lit ainsi : « Lorsque le système d'intelligence artificielle employé repose sur un apprentissage, des garanties sont apportées afin que les données d'apprentissage, de validation et de test choisies soient pertinentes, adéquates et représentatives, leur traitement loyal, objectif et de nature à identifier et prévenir l'occurrence de biais et d'erreurs. Ces données doivent demeurer accessibles et être protégées tout au long du fonctionnement du traitement ». L'alinéa 21 dispose en outre que « Le respect des exigences énoncées au présent V fait l'objet d'une attestation de conformité établie par l'autorité administrative compétente. Cette attestation est pub...

Je n'ai rien entendu, dans ces arguments, qui indique explicitement qu'il importe de veiller à ce que les traitements n'induisent aucune forme de discrimination. Lors des auditions, il nous a été dit que des CV vidéo avaient vraisemblablement été analysés par les algorithmes et que toutes les personnes ayant un accent étranger ou marseillais avaient été écartées d'emblée. Il est donc nécessaire de préciser que l'on exclut toute forme de discrimination.

Certes, le premier alinéa précise que les traitements ont vocation à détecter des événements et à les signaler en temps réel, et pas a posteriori. Mais dans une finalité unique et bien précise, à savoir l'apprentissage, les algorithmes doivent s'appuyer sur des données préalablement enregistrées. Ce traitement a pour but rendre les algorithmes plus efficaces. Je me suis efforcé d'obtenir toutes les garanties possibles, mais celles-ci ne sau...

...ir mes propos. J'ai dit que, si vous demandez à des entreprises comme Google de vous donner leur code, elles le feront, et même assez facilement, car celui-ci aura changé dès le lendemain, et vous n'aurez pas la capacité technique d'aller l'investiguer pendant ces vingt-quatre heures. Le véritable enjeu, s'agissant de l'intelligence artificielle, est de s'assurer qu'il n'y a pas de biais, que le traitement est loyal. Une manière assez simple de le faire est de donner des jeux de données standardisés, sous le contrôle de la CNIL. C'est ce qui est prévu dans l'article. Ainsi, on sait exactement ce qu'il y a dedans, on connaît les résultats positifs que l'on peut en attendre, ainsi que les résultats négatifs que l'on souhaite éviter. Les spécialistes que nous avons interrogés nous l'ont bien dit : il...

...e marché à l'occasion des Jeux olympiques et au-delà : enfin, disait-il, on allait pouvoir se partager le marché de la vidéosurveillance augmentée. Dès l'instant où personne ne croit qu'il s'agit d'une simple expérimentation, il faut encadrer le dispositif aussi intelligemment que possible. L'amendement CL65 a trait, comme mon amendement précédent, aux discriminations. Il vise à préciser que les traitements ne pourront en aucun cas se fonder sur la couleur de peau des individus. L'amendement CL64 a pour objet de limiter le traitement aux abandons de bagages.

Il est prévu que l'application d'un traitement algorithmique sur des images de vidéosurveillance fasse l'objet d'une autorisation par décret, après avis de la CNIL. La procédure n'est pas assez contraignante : l'autorité administrative pourrait tout à fait ignorer cet avis. Le caractère sensible des données traitées – il s'agit d'images captées par des caméras installées sur la voie publique – nécessite pourtant un contrôle étroit afin d'évit...