Intervention de Philippe Latombe

Cet amendement d'appel vise à ouvrir une discussion sur la différence entre une obligation de moyens et une obligation de résultat, s'agissant de l'alinéa 14.

Dans le cas d'un système d'intelligence artificielle reposant sur un apprentissage, il est très compliqué de valider sur le plan technique la notion d'obligation de résultat. On valide éventuellement un logiciel ou un traitement algorithmique au départ, mais en fonction de l'apprentissage, ils peuvent évoluer. Même si l'on demandait la publication du code, celui-ci évoluerait au fil de l'apprentissage. La question suivante nous est donc posée : optons-nous, à l'alinéa 14, pour une obligation de résultat ? Si oui, il faut assumer le fait qu'il soit impossible de recourir à un algorithme s'il a évolué et ne répond plus entièrement aux conditions de départ. La CNIL devra disposer des moyens de vérifier la conformité au fur et à mesure. D'autre part, si nous fixons au contraire une obligation de moyens, les alinéas 2 et 3 du V deviennent des barrières infranchissables.

Le groupe Démocrate penche plutôt en faveur d'une obligation de résultat, mais cela suppose que nous acceptions qu'un certain nombre de traitements algorithmiques fondés sur l'apprentissage ne seront pas aussi efficaces qu'on pourrait s'y attendre.