Intervention de Ugo Bernalicis

Si l'opérateur a tendance à se comporter de façon discriminatoire – en considérant les critères définis à l'article 225-1 du code pénal –, il en ira de même pour votre algorithme même si celui-ci se montre loyal et éthique vis-à-vis de l'opérateur qui décide de donner son feu vert ou au contraire de ne pas valider l'événement signalé.

Comme l'a dit le collègue Guedj, les algorithmes reproduisent les biais déjà présents dans la société. Pour se prémunir des risques liés à ce phénomène, il faut faire du droit et rappeler nos principes noir sur blanc dans le texte et non se contenter d'employer des mots comme « éthique » ou « loyal ».