Intervention de Ugo Bernalicis

Il fait partie d'une série d'amendements visant à rendre les dispositifs de surveillance algorithmique les plus transparents possible, afin que nous puissions les analyser, les décortiquer, les comprendre et, finalement, nous y opposer – évidemment – en toute rationalité. Lorsque nous avons dit vouloir que le code de l'algorithme soit transparent, on nous a fait remarquer – à juste titre – que nombre des codes utilisés dans la vidéosurveillance étaient libres de droit, en open source, et donc que le sujet fondamental n'était pas forcément le code en tant que tel, mais bien son utilisation et le paramétrage opéré par l'utilisateur, c'est-à-dire ce qui est demandé à l'algorithme, les objectifs qui lui sont assignés et la définition de comportements « normaux » ou « anormaux » – ce que vous appelez les « événements prédéterminés ».

Et en effet, la question continue de se poser : quel est l'usage que vous allez faire de ces codes ? Et allez-vous uniquement utiliser des codes qui sont en open source ? Cela permettrait au moins de lever les doutes sur la mécanique – pour ainsi dire – de l'algorithme utilisé, à défaut d'interroger l'usage qui est fait des données. Nous avons besoin de savoir dans quelle direction nous allons. Vous avez commencé une liste, monsieur le ministre, hier, de ce que pourraient être les « événements prédéterminés » ; j'aimerais qu'ensemble, nous complétions cette liste au fur et à mesure,…