Intervention de Marine Rabeyrin

. – Merci de m'accueillir. Je suis directrice du segment Éducation Europe chez Lenovo. Au travers de ma présentation, je chercherai à illustrer le fait que pour agir sur les questions d'IA, il n'est pas nécessaire d'avoir embrassé des carrières scientifiques, mais il faut faire preuve de curiosité.

Le Cercle InterElles s'est emparé de ce sujet. On y trouve des profils divers, issus de la Tech, mais aussi du commerce, de la supply chain ou encore des ressources humaines.

J'aimerais ajouter deux biais aux exemples cités précédemment. Le premier est observé dans le monde de la finance. L' Apple Card accordait des crédits moindres aux femmes qu'aux hommes à situation socioprofessionnelle équivalente. On parle effectivement de besoin d'éducation à la finance, mais si les algorithmes discriminent aussi les femmes sur ces sujets, comment faire ?

Par ailleurs, en tant que directrice de l'éducation, j'aimerais insister sur des biais mis en avant par une étude de Stanford sur les orientations scolaires. Certains outils basés sur l'intelligence artificielle amenaient les femmes à considérer de manière moindre les carrières dans les mathématiques notamment.

Les exemples sont encore trop nombreux. Que pouvons-nous faire ? Comment les entreprises peuvent-elles agir ? Pour y répondre, je commencerai par vous présenter le Cercle InterElles, une association de réseaux, de mixité, autour de quinze entreprises du secteur technologique et industriel potentiellement productrices, ou au moins utilisatrices, d'intelligence artificielle. Le Cercle InterElles réunit ces réseaux qui agissent pour plus d'égalité professionnelle entre les femmes et les hommes, à l'image de ce que fait le Laboratoire de l'égalité depuis de nombreuses années. En 2018-2019, face au scandale des outils de recrutement, nous avons cherché des solutions pour accompagner les entreprises qui produiront ou utiliseront de plus en plus de solutions d'intelligence artificielle de manière à les inciter à le faire de façon responsable et non sexiste.

Puisque nous représentons les secteurs technologiques et industriels, nous voulions montrer qu'il était possible d'agir sur cette question, et donner l'exemple. Nous désirions également proposer une démarche simple, accessible, pour de grandes entreprises comme les nôtres, mais aussi pour des start-up, des écoles ou tout acteur ayant envie d'agir et de comprendre les bases à poser pour être meilleur dans ce domaine.

La démarche que nous proposons est le fruit d'une recherche menée en 2018 et 2019. Nous avons dressé un inventaire de toutes les bonnes pratiques émises, valorisées et créées jusqu'alors, et de nos connaissances d'experts dans les différents domaines. Nous avons identifié une convergence de points de vue de différentes entreprises, un consensus sur la bonne démarche à employer. Nous nous rejoignions sur le fait que cette démarche est un voyage. Elle doit s'inscrire dans le temps. Elle doit commencer par un engagement : les entreprises doivent déclarer leur volonté d'agir, même si elles ne savent pas comment le faire. Elles peuvent signer des chartes ou prendre la parole publiquement, ce qui leur permet d'ancrer et de trouver un point de départ à leur démarche. Elles peuvent également créer une émulation dans leur écosystème d'entreprises, de partenaires, de concurrents.

Aujourd'hui, une quinzaine d'entreprises ont déjà signé la charte Femmes et IA pour une IA responsable et non sexiste. Cela les aide à prendre position.

La deuxième démarche consiste, pour les sociétés, à s'évaluer. On pense que les entreprises, y compris technologiques, sont très matures en matière de compréhension de leur situation sur les questions de traitement de l'IA. Ce n'est pas si simple, ni évident. Les petites entreprises manquent de moyens. Dans les grandes entreprises, tant de choses sont mises en place qu'il n'est pas aisé d'identifier tout ce qui s'y passe. Il est donc important de se poser les bonnes questions et de s'évaluer.

Pour ce faire, nous avons créé une grille d'évaluation. Elle reprend les sept grands thèmes sur lesquels nous pensons qu'il est nécessaire d'agir – j'y reviendrai tout à l'heure – en expliquant comment être exemplaire en la matière. L'entreprise pourra s'identifier en réalisant des audits internes, afin de définir son niveau de maturité sur la manière de se préoccuper et d'embrasser la question de l'IA égalitaire et non sexiste. Cette grille d'évaluation, gratuite, est mise à disposition de toutes les entreprises. Elle ne constitue pas un audit. Les sociétés peuvent s'en emparer pour procéder à leur propre évaluation. C'est une première étape d'engagement après la déclaration d'une volonté.

Une fois que l'entreprise a identifié son niveau de maturité, ses points forts et les domaines dans lesquels elle est moins avancée, elle peut passer à l'action. Le Cercle InterElles a créé une boîte à outils qui leur offre des éléments concrets à mettre en place sur les volets sur lesquels elles veulent avancer. Nous avons produit ces outils et dressé un inventaire de l'existant au sein de notre écosystème. Nous mettons en avant un certain nombre de démarches, d'initiatives d'autres partenaires qui œuvrent sur des IA responsables et non-sexistes. Nous mettons un point d'honneur à valoriser toutes les initiatives qui vont dans la bonne direction.

Enfin, le dernier pilier est celui de l'exemplarité. Les entreprises doivent montrer qu'il est possible d'agir, de partager les bonnes pratiques. En créant une émulation autour de soi, on emmène d'autres personnes à se poser les bonnes questions.

J'indiquais plus tôt que ces quatre démarches s'appuyaient sur sept domaines particuliers sur lesquels nous pensons qu'une entreprise peut agir : mettre en place une gouvernance ; faire en sorte que l'entreprise s'approprie et se cultive sur le volet légal et la conformité dès la conception ; mener des actions particulières sur le choix et le traitement des données ; insister sur la responsabilité et l'éthique algorithmique ; évaluer et définir des points de contrôle pour s'assurer que les IA n'apprennent pas de biais avec le temps ; renforcer la diversité des équipes d'intelligence artificielle ; enfin sensibiliser et responsabiliser les équipes d'intelligence artificielle, mais aussi tous les salariés, au rôle de l'entreprise. Je m'appuierai sur un exemple concret, celui des ressources humaines.

Ce département pourrait être amené à utiliser des outils d'IA pour le recrutement ou la gestion de carrière. Si ces personnes et ces métiers ne sont pas sensibilisés au fait qu'un outil d'IA peut être contre-performant pour telle ou telle raison, on pourrait constater des dysfonctionnements. Il est donc important de sensibiliser l'ensemble des salariés sur ces sujets. Des formations gratuites sur l'IA sont à la disposition des entreprises pour que les équipes en comprennent au moins les fondamentaux.

Ensuite, quel est le rôle externe de l'entreprise ? Jessica Hoffmann et moi-même intervenons pour expliquer comment les entreprises agissent, pour montrer qu'il est possible de s'investir dans un écosystème qui œuvre pour une intelligence artificielle responsable et non-sexiste.

Nous ne pouvons y parvenir seules. Ce matin, nous avons beaucoup parlé d'interdisciplinarité, de partenariat, de travail en commun. À l'image de tout ce qui se passe aujourd'hui sur ces sujets, le Cercle InterElles fait en sorte de favoriser l'effet « boule de neige », de favoriser un travail commun pour avancer dans la bonne direction. Nous travaillons par exemple avec le Laboratoire de l'égalité depuis 2018, le Women's Forum, Femmes Ingénieurs, l'université de Berkeley, Impact AI ou Arborus.

Au-delà du pacte expliquant la démarche en quatre piliers, le Cercle InterElles vient de lancer un module de formation en collaboration avec Impact AI. Il s'adresse à l'ensemble des écoles d'ingénieurs, mais pas seulement, il s'adresse à tous ceux qui vont former les personnes qui travailleront demain sur des sujets d'IA ou qui utiliseront de tels outils. Ce module de sensibilisation de trois heures est mis gratuitement à la disposition de l'ensemble des écoles ou des centres de formation qui le souhaitent. Nous mettons à disposition les documents, mais aussi le guide du formateur et les exercices pratiques.

Cette formation a pour objectif de faire comprendre ce qu'est un biais de genre, d'apprendre à les déceler et à voir à quel moment ils peuvent s'immiscer dans le développement de l'algorithme, et de montrer qu'il existe des outils pour les pallier. Il est possible d'agir, de renverser la tendance. Ce module est plutôt destiné à un public étudiant ou à des organismes de formation inter-entreprises.