Intervention de Laure Lucchesi

. – Bonjour à toutes et à tous. Merci de me donner la parole. Je remercie également tous les participants pour leurs travaux sur ce sujet extrêmement important. Il n'est pas facile de passer après ces deux tables rondes au cours desquelles beaucoup de choses ont déjà été dites.

Aujourd'hui, j'ai choisi d'être optimiste et de donner des exemples d'utilisation de l'intelligence artificielle en faveur de l'égalité entre les femmes et les hommes. Mon intervention fera écho à vos travaux, à travers le prisme de l'action et de la décision publique. Pendant plusieurs années, j'ai dirigé Etalab, un service interministériel qui a commencé par travailler sur la politique de la donnée, mais qui, assez vite, en est venu à se pencher sur l'intelligence artificielle. Nous n'avons pas attendu l'IA générative pour travailler sur cette question dans le service public.

Je rappelle que l'usage des sciences, des données, des algorithmes et de l'intelligence artificielle est de plus en plus fréquent dans la sphère publique, avec quelques particularités qu'il est important de souligner.

D'abord, cet usage répond aux grandes lois du service public, de continuité, d'adaptabilité, et d'égalité. Par ailleurs, les algorithmes qui y sont utilisés ont des spécificités par rapport à ceux qui peuvent être utilisés dans le secteur privé. Ils sont censés opérer au service de l'intérêt général. Ils servent très souvent à exécuter le droit. Ils doivent donc respecter la loi et rien que la loi, même si certaines interprétations peuvent occasionner des questions. Ils sont souvent incontournables – je pense à ParcourSup notamment.

Selon l'article 15 de la Déclaration des droits de l'homme et du citoyen, « la société est en droit de demander compte à tout agent public de son administration ». Les algorithmes publics sont aussi obligés de respecter cet article à travers un certain nombre de règles de transparence, de redevabilité et d'explicabilité, en particulier lorsqu'ils aboutissent à des décisions individuelles. L'acteur public ne peut donc pas utiliser des algorithmes complètement opaques. Un certain nombre d'obligations s'imposent.

Dès 2014, Etalab a commencé à travailler sur les premiers projets qu'on qualifiait à l'époque de data science et de machine learning. Il était compliqué d'expliquer et de faire comprendre ce qu'étaient ces techniques. J'ai constaté un certain saut en 2018, lorsque Cédric Villani a remis son rapport sur l'intelligence artificielle. L'emploi de ce terme, « intelligence artificielle », pouvait faire un peu peur, mais il a permis de mieux se projeter dans ce que pourraient être les usages de cette technologie. Il m'a semblé que c'était déjà une première étape vers l'accessibilité de ces outils.

Le Lab IA de l'État a été créé à la suite de ce rapport. Il était composé d'une petite équipe interministérielle. Il avait vocation à identifier les opportunités d'amélioration du service rendu aux usagers et de la façon dont ce service public était produit, en utilisant les sciences des données et l'intelligence artificielle. Une de ses premières missions – et encore une fois, le parallèle peut être fait avec d'autres organisations – visait à sensibiliser aux questions éthiques, aux questions des biais, de transparence et de redevabilité algorithmique.

Nous avons mis en place, avec un certain nombre d'acteurs de la recherche, des actions pour sensibiliser les agents publics aux règles auxquelles étaient soumis les algorithmes publics, mais aussi aux questions de biais – notamment de genre – qui pouvaient en découler. Nous avons abordé cet aspect assez tôt.

Nous avons ensuite mis en place le programme « entrepreneurs d'intérêt général », qui recrutait une soixantaine de profils chaque année, issus de l'extérieur : développeurs, designers, experts de la donnée… Nous avons mis un point d'honneur à respecter la parité et la mixité dans l'équipe, tant au sein des chargés de politiques publiques que parmi les compétences techniques. Il s'agissait de petits programmes – nous connaissons les problématiques de recrutement dans le service public –, mais leur visibilité nous permettait de sensibiliser à ces questions. Nous avons également accompagné des administrations dans la mise en place de projets de science des données et d'intelligence artificielle.

Permettez-moi de présenter quelques cas d'usage dans lesquels l'intelligence artificielle, en particulier dans la sphère publique, peut agir en faveur de l'égalité entre les femmes et les hommes. C'est d'abord le cas dans le domaine du travail et de l'emploi. L'utilisation de l'intelligence artificielle générative permet d'automatiser un certain nombre de tâches, notamment administratives. Pour rappel, la fonction publique est particulièrement féminisée : elle compte 63 % de femmes au total, 61 % dans la fonction publique territoriale et 57 % dans l'administration d'État. Elles seront particulièrement impactées par ces usages qui seront amenés à supprimer un certain nombre de tâches rébarbatives, à limiter la pénibilité et la surcharge de travail. Ces outils permettront, par exemple, de gagner en productivité dans la rédaction de comptes rendus, de notes, de synthèses.

Vous savez peut-être que la Direction générale des finances publiques a mis en place un système de gestion des amendements, testé sur le dernier projet de loi de finances. Il a permis de traiter 10 000 amendements de façon extrêmement efficace : ils ont été attribués au bon service, regroupés par catégorie, et synthétisés.

Il est vrai que nous manquons de chiffres sur l'impact de l'intelligence artificielle sur le travail. Toutefois, dans un rapport d'août 2023, l'Organisation mondiale du travail corrobore notre analyse. Les femmes qui occupent plutôt des emplois de bureau dans les pays plus développés seront particulièrement exposées. Dans le même temps, des opportunités de progression sont attendues sur ces métiers. Du moins, l'outil viendra les compléter, occasionnant une réduction de charge qui libérera du temps pour ceux qui occupent ces postes.

On peut aussi assez facilement imaginer des usages de l'intelligence artificielle visant à dégenrer ou apporter une écriture égalitaire à un certain nombre de documents et de textes. Le service public en produit beaucoup. Hier soir, je consultais Choisir l'emploi public, la plateforme des offres d'emploi du service public. Les intitulés des postes respectent bien la réglementation en précisant « hommes/femmes », mais dès qu'on rentre dans la fiche de poste, ce n'est plus le cas : on parle « du secrétaire général », « du directeur », on dit qu'« il sera chargé de ». Il est aujourd'hui possible de modifier ces usages. J'ai demandé à ChatGPT de rédiger une fiche de poste en langage égalitaire et inclusif. Il le fait très facilement.

Ensuite, un certain nombre de robots conversationnels ont déjà été testés par l'Urssaf depuis plusieurs années. De nouvelles expérimentations sont menées en la matière, notamment dans l'appui aux agents dans les maisons France services pour répondre aux questions des usagers. De nombreux gains sont attendus. L'outil prépare les réponses à adresser lors d'une prise de rendez-vous, en sourçant toutes les informations et en respectant des exigences de traçabilité.

Le S peech-To-Text et la possibilité de convertir du langage oral en texte écrit faciliteront aussi l'interaction, en particulier pour les personnes éloignées du numérique. Aujourd'hui, treize millions de personnes en sont encore éloignées. Elles souffrent d'une vulnérabilité numérique, qui s'accompagne de questions d'équipements, d'accès et de connexion, mais aussi de maîtrise de l'écrit ou d'aisance avec le langage administratif. Cette nouvelle source d'opportunités touchera aussi les personnes les plus vulnérables, en particulier les femmes.

Enfin, les outils s'améliorent de jour en jour. Ils permettent de mesurer très finement le temps de parole entre les hommes et les femmes dans les médias. InaSpeechSegmenter découpe très finement, à l'oral, les voix afin d'identifier le genre des locuteurs. Il est utilisé par exemple par l'Arcom dans son rapport annuel.

Il est même possible de réaliser des analyses beaucoup plus fines. Une étude a été menée sur les documentaires en première diffusion à la télévision en janvier 2024. Elle révèle que seulement 25 % des femmes voient leur documentaire diffusé en première diffusion, contre 75 % des hommes. 3 500 heures de documentaires en prime-time ont été mesurées sur les cinq dernières années. Il s'avère que le temps de parole des hommes y est deux fois et demi supérieur à celui des femmes.

Ainsi, nous disposons aujourd'hui d'opportunités de mesurer beaucoup plus finement et de réagir sur un certain nombre d'éléments. L'intelligence artificielle nous offre la possibilité de regarder, de mesurer, d'analyser les bases de données, les données d'entraînement, les modèles en eux-mêmes et leurs résultats, et un certain nombre de valeurs. L'Europe s'est d'ailleurs dotée d'une réglementation et d'outils pour agir sur ces questions.

Ensuite, Etalab a travaillé assez tôt sur un outil, que nous avions nommé DataJust, qui fut très décrié. Il visait, à l'initiative du ministère de la justice, à établir un barème d'indemnisation des préjudices corporels. Il existe aujourd'hui des barèmes officieux. Nous avions donc souhaité analyser les données de jurisprudence pour en établir un plus officiel, qui servirait à la fois à diffuser de l'information sur l'indemnisation des préjudices, mais aussi à appuyer la décision des magistrats dans leur jugement. Ce travail visait également à désengorger les tribunaux en essayant de résoudre les situations à l'amiable.

Un traitement a été créé pour traiter des données très sensibles, mais anonymes, et aboutir à ce barème. Nous avons très vite réalisé que les biais pourraient nous poser des problèmes. Comment indemniser un homme et une femme victimes d'un accident et ayant subi un préjudice à la poitrine ? De plus, l'indemnisation se fait en anticipation des revenus futurs. Or, nous constatons une très forte inégalité entre le salaire des hommes et celui des femmes pour un métier similaire. Dans ce cas, devons-nous y apporter une correction ?

Finalement, pour diverses raisons de complexité, de gestion, d'organisation et de coût, le projet a été abandonné. Ce travail a tout de même généré des questions légitimes, à savoir, devons-nous effacer tous les biais pour correspondre à un idéal ? Si oui, lequel ? Qui en décide ? Comment ? Nous avons besoin d'affecter les moyens adéquats pour traiter convenablement la façon dont le service public intégrera ces outils, y compris sur les questions éthiques. S'y ajouteront des préoccupations techniques. Ce ne sera pas simple. Pour autant, l'intelligence artificielle générative a rendu ces questions visibles, beaucoup plus accessibles et compréhensibles. Si vous m'aviez invitée il y a deux ans, beaucoup moins de personnes se seraient intéressées au sujet.

Ensuite, Hugging Face a mis en place un explorateur de biais, qui permet de comparer des modèles et donc des représentations imagées d'un certain nombre de métiers. Récemment, Google a montré la difficulté de traiter ces questions sur Gemini, qualifié d' IA woke. Dans le cadre de cette intelligence artificielle, c'est aussi la culture interne de Google en faveur de la diversité, de l'équité et de l'inclusion qui a pu être soulignée. Elle a pu aussi faire dévier les outils qui étaient mis en place. Ainsi, ces systèmes reflètent également la culture et l'organisation interne. Je crois que cette question est éminemment politique, démocratique, et de gouvernance.

Pour terminer, des conventions citoyennes se sont mises en place. Elles ont rendu des avis et se sont intéressées à ces questions, y compris celle des iniquités de genre, à Rennes ou à Montpellier. J'y vois le signe qu'un débat s'ouvre. Plus les parties prenantes que sont les entreprises, les associations, la recherche ou le monde politique s'y intéresseront, et plus nous pourrons discuter du projet de société que nous désirons atteindre.