Intervention de Laurence Devillers

. – Sur les émotions, dont j'ai fait mon sujet de recherche pour les détecter dans la voix et le langage, les tokens sont utilisés. Au niveau international, nous travaillons sur les émotions depuis 2000 environ, à travers la voix et les émotions très mélangées qu'elle peut contenir. Ces machines sont très loin de détecter ces distinctions. Elles procèdent à une simplification importante, mais qui peut être intéressante dans certains cas, dans les systèmes qui s'adaptent à la voix, par exemple dans les cas de pathologies mentales.

L'autre sujet est celui des dead bots, initiés par Microsoft, qui consistent à faire parler quelqu'un qui n'est plus là. On sait simuler la voix d'une personne décédée, ceci a été réalisé pour le général de Gaulle. Pour ce qui est du langage, il est donc possible de prendre des données et de les retravailler en ce sens. Mais des enjeux conversationnels et des enjeux d'éthique apparaissent car faire parler quelqu'un avec des mots qu'il n'a jamais dits ne relève pas de la dignité humaine. On crée une immortalité numérique. Il nous revient de nous interroger sur la manière dont la société peut vivre avec ce type de systèmes. Certaines sociétés, comme les sociétés asiatiques, l'acceptent mieux que d'autres. Il y a des exemples en Chine et au Japon. Pour prendre un autre exemple, le système Replica, conçu en Russie, s'appuie sur l'idée de répliquer une personne décédée. Il y a là des dérives évidentes.

Notre rapport propose donc non pas d'interdire, mais de s'interroger collectivement sur notre souhait de disposer de tels outils. Il y a des avis divergents. Nous sommes devant un monde d'experts qui nous fait miroiter des améliorations, par exemple avec l'émergence de réponses émotionnelles mais ce n'est pas vrai, cela est fait pour des enjeux purement économiques et marketing.