Interventions sur "donnée"

...anière d'encadrer cette manifestation et sur ce qu'il adviendra de ce couplage par la suite. Si le groupe Socialistes et apparentés a déposé un amendement de suppression de l'article 7, il est immédiatement suivi d'un autre, déposé dans un esprit de coconstruction – j'ai cru comprendre que c'était une notion qui vous était chère –, qui réécrit intégralement l'article pour renforcer les garanties données sur le fond et sur la forme, sur le rôle de l'État, sur les scanners millimétriques, sur la durée de l'expérimentation. Nous ne sommes donc pas totalement opposés à l'utilisation de moyens exceptionnels, mais nous souhaitons qu'ils soient davantage cadrés et que vous soyez plus clairs, plus transparents avec nous, sur ce que vous entendez faire avec cet article 7 et la surveillance algorithmiqu...

.... Pour moi, il n'y a pas à avoir de débat entre salariat et indépendance. En revanche, il faut savoir si les indépendants utilisant une plateforme restent réellement indépendants. Par exemple, un médecin utilisant Doctolib reste maître de sa relation avec sa patientèle : il est indépendant. La relation clients et le suivi des tarifs sont des critères clés. Se pose aussi la question du partage des données. Quel est l'accès du travailleur aux données clients ? J'aimerais aussi avoir votre avis sur les questions de fiscalité. Les indépendants paient la TVA, y compris sur la commission perçue par les plateformes.

Nous avons abordé de nombreux sujets. Sur la question des données et des manquements au RGPD, vous avez peut-être aussi des choses à préciser. Vous avez engagé des démarches sur la question du travail et celle de la TVA par ailleurs.

De quelles données parle-t-on ?

Il s'agit de préciser et de reformuler l'exigence d'objectivité que doit respecter le traitement des données d'apprentissage, de validation et de test. Au 1° du V, la notion de « traitement objectif » est imprécise ; il est préférable de la remplacer par celle de « traitement reposant sur des critères objectifs ».

Il tend à insérer un alinéa précisant que l'État met à la disposition des fournisseurs de système d'intelligence artificielle des jeux de données complémentaires aux fins d'apprentissage, de tests, d'évaluations et de détection de biais et d'erreurs. Si l'État est dans l'obligation de recourir à des entreprises du secteur privé, il faut qu'il leur fournisse des jeux de données, afin qu'elles puissent remplir leur obligation de résultat.

J'ai déposé, à l'alinéa 32, un amendement visant à préciser les modalités de sélection des données d'apprentissage. Je comprends le sens de votre amendement, mais sa rédaction me semble imprécise car seuls les tiers développeurs agissant pour le compte de l'État ont vocation à disposer de données dans le but d'entraîner les algorithmes, et non les fournisseurs de système d'intelligence artificielle, au sens large. Demande de retrait, à défaut, avis défavorable.

..., à terme, de généraliser un dispositif. Pour nous assurer qu'il n'y aura aucune dérive, nous proposons d'instaurer une amende très dissuasive, pouvant aller jusqu'à 10 % du chiffre d'affaires des entreprises, au cas où certaines d'entre elles proposeraient tout de même un dispositif de reconnaissance faciale. Sur certains logiciels, il est possible de l'activer d'un simple clic et d'effacer les données en cas de contrôle.

Le texte dit déjà clairement qu'il n'y aura ni reconnaissance faciale ni traitement de données biométriques : il est inutile de revenir là-dessus. Par ailleurs, la reconnaissance faciale nécessite de mettre en relation des visages avec des fichiers. Or les seuls fichiers existants sont dans les mains de l'État et la loi interdit la reconnaissance faciale : ces fichiers ne pourront donc pas être utilisés. Il y a une double impossibilité, à la fois technique et législative. Aucune attesta...

Nous proposons de renforcer les garanties que devra présenter le prestataire privé candidat à la procédure de commande publique en ajoutant comme condition, en plus des compétences informatiques, la sécurité pour les données et les informations collectées pendant la phase d'apprentissage.

...t connu : c'est le seul moyen de s'assurer que la loi est respectée et qu'il n'y a ni reconnaissance faciale, ni analyse biométrique. Sur le site de la CNIL, on trouve les définitions suivantes : « La biométrie regroupe l'ensemble des techniques informatiques permettant de reconnaître automatiquement un individu à partir de ses caractéristiques physiques, biologiques, voire comportementales. Les données biométriques sont des données à caractère personnel car elles permettent d'identifier une personne. » Les algorithmes que vous nous proposez vont détecter les comportements des gens sur la base de leurs mouvements, de leur corps : il y aura donc bien une approche biométrique. Et pourtant, vous l'interdisez : cela me va très bien, mais il y a là une contradiction. Désormais, si La Quadrature du N...

...mble ? Existera-t-il un lien de subordination entre l'une et l'autre ? Par exemple, la CNIL pourra-t-elle rendre un avis favorable et l'Anssi, un avis défavorable ? Nous avons déjà connu des situations comparables, mais il était expressément mentionné que l'avis des autorités sollicitées avant la CNIL n'était que consultatif. Du fait des difficultés que posent le cloud et l'hébergement des données, peut-être serait-il préférable que ces deux avis soient cumulatifs.

Nous devrions aborder ces sujets dans la crainte. Les données qui seront collectées représentent, d'une certaine façon, l'ADN génétique, version comportementaliste ou informationnelle, de nos concitoyens. Les entreprises – puisque l'on devine que les intervenants privés seront largement sollicités –, disposeront de données d'identité, à moins que vous nous garantissiez que votre seul objectif est d'identifier des personnes qui se promèneraient avec une bou...

...u système de vidéoprotection de la préfecture de police, cette instance a pour principale mission de veiller au respect de la charte d'éthique de la vidéoprotection. L'amendement vise à lui octroyer une existence légale en lui permettant ainsi, pour la seule période des Jeux olympiques et paralympiques et sans préjudice des prérogatives de la CNIL, de s'assurer de la conformité du traitement des données avec la charte d'éthique d'une part, et de veiller à la réalité de l'accès aux données par les habitants, d'autre part. Il conviendra ensuite de fixer par décret les modalités de ses missions et sa composition.

...ngru, en effet, de sacraliser dans un texte de loi un organe qui n'existe que par convention. Cependant, il est devenu urgent de réfléchir à l'installation d'instances pour favoriser une forme d'acculturation, non pas pour endormir nos concitoyens mais pour les rassurer quant à l'usage qui pourrait être fait de ces nouvelles technologies. La CNIL a ainsi été créée pour veiller à la protection des données personnelles dans une société dont on craignait qu'elle ne devienne excessivement sécurisée. Peut-être faudra-t-il élargir les instances ou en créer de nouvelles mais ne passons pas par pertes et profits ce qui existe déjà.

L'alinéa 32 prévoit que les images mentionnées au I de l'article, dont la durée de conservation n'est pas expirée, peuvent être utilisées comme données d'apprentissage des traitements, dans les conditions prévues à ce même article, jusqu'à l'expiration de leur durée de conservation. Vous vous apprêtez ainsi à transmettre des images qui sont de véritables bases de données. Rien n'empêcherait des entreprises d'apprentissage automatique de s'en saisir pour alimenter à l'infini leurs machines, au mépris de leur délai de conservation. L'amendement t...

L'alinéa 32 prévoit bel et bien que ces données peuvent « être utilisées comme données d'apprentissage des traitements dans les conditions prévues à l'article ». Je croyais que la population ne servirait pas de cobaye ! À quoi seront utilisés ces algorithmes qui ont tant besoin d'être nourris ? Un rapide coup d'œil au carnet d'adresses des entreprises qui les développent nous laisse penser qu'elles les vendront plus facilement à des régimes p...

Les données d'apprentissage sont indispensables à l'efficacité des traitements algorithmiques, sinon l'expérimentation n'aurait pas lieu d'être, mais ces données ne pourront être transmises que pour viser cet objectif, dans les cas définis par décret. Le cadre est strict : la revente sera interdite et l'Anssi permettra de s'assurer qu'aucune entreprise ne cherche à capter ces données pour un autre usage que...

Pour renforcer son efficacité, l'algorithme a besoin d'être nourri par des données. Or les données, c'est nous – ou tout du moins, les images que les caméras auront prises de nous. Les entreprises, que nous aurons payées, revendront ensuite à d'autres leur solution technologique, enrichie de ces bases de données. Rien ne les en empêchera ! Combien les gens filmés seront-ils rémunérés pour leur participation à l'enrichissement d'autrui ? Auront-ils droit à un retour sur investi...

Que nous définissions le cadre applicable, c'est ce que je proposerai dans l'amendement suivant, mais ce que vous demandez, c'est la suppression de toute possibilité de transmettre des données pour nourrir l'algorithme : je ne peux qu'y être défavorable.