Intervention de Philippe Latombe

Je salue la création de ce service chargé de lutter contre les discriminations. Même si nous disposons d'un arsenal législatif et réglementaire solide, nous savons que celles-ci persistent. Les victimes renoncent trop souvent à engager une procédure judiciaire, car il est difficile de prouver qu'elles subissent des discriminations. Finalement, le droit ne constitue pas un outil de lutte suffisamment efficace et ne permet pas de dissuader les auteurs de discriminations.

Alors que les tests contre les discriminations sont utilisés depuis longtemps dans d'autres pays et que leur efficacité a été largement prouvée, ce service constitue un nouvel outil intéressant. En intégrant des personnalités qualifiées, des représentants des entreprises et des administrations susceptibles d'être testées, des parlementaires et des représentants syndicaux – comme nous proposerons de le faire –, ce service ne vise pas seulement à réprimer les discriminations ; il a vocation à accompagner les victimes pour défendre leurs droits mais, aussi, les entreprises et les administrations dans la correction de ces discriminations. La publication de ces tests révélant au public la pratique de discriminations par une personne morale ou privée sera désormais possible et permettra de les prévenir voire, le cas échéant, de les corriger.

Notre groupe souhaite apporter quelques modifications au texte afin de l'adapter au développement de l'intelligence artificielle, dont nous ne pouvons pas nous priver pour réaliser ces tests. Cet outil nous permettra d'accélérer considérablement les délais de traitement mais nous devrons faire preuve de vigilance s'agissant des biais de ces algorithmes, que ce soit en apprentissage initial, avec les modèles dits de fondation, ou en spécialisation – fine-tuning – et, demain, en autoapprentissage.

Nous proposerons également un amendement visant à ce que ce nouveau service puisse informer des biais détectés la Commission nationale de l'informatique et des libertés (Cnil), l'Agence nationale de la sécurité des systèmes d'information (Anssi) et l'éditeur afin de les corriger et d'éviter les discriminations qui en découlent.

Ces amendements visent à ouvrir le débat afin qu'en séance publique, grâce à tous, nous disposions d'une proposition rédactionnelle adéquate et efficace.