Mercredi 17 mai 2023
La séance est ouverte à quatorze heures cinq.
(Présidence de M. Benjamin Haddad, président de la commission)
La commission d'enquête entend lors de sa table ronde sur l'impact de l'intelligence artificielle sur le travail :
- M. Antonio A. Casilli, Professeur de sociologie à Télécom Paris, auteur du livre « En attendant les robots. Enquête sur le travail du clic » ;
- M. Stéphane Mallard, entrepreneur et conférencier, auteur du livre « Disruption : intelligence artificielle, fin du salariat, humanité augmentée ».
Chers collègues, nous accueillons aujourd'hui deux experts de l'impact de l'intelligence artificielle sur le travail. M. Antonio Casilli est professeur de sociologie à Télécom Paris et chercheur au CNRS (Centre national de la recherche scientifique) et à l'EHES (École des hautes études en sciences sociales). Il a publié un ouvrage intitulé En attendant les robots. Enquête sur le travail du clic. M. Stéphane Mallard est entrepreneur et conférencier, auteur du livre Disruption : intelligence artificielle, fin du salariat, humanité augmentée. Ils nous éclaireront sur l'impact sur l'organisation du travail et les relations sociales au travail de l'intelligence artificielle, qui est au cœur du développement des plateformes numériques d'emplois, telles qu'Uber.
Notre commission d'enquête a un double objectif : d'une part, identifier l'ensemble des actions de lobbying menées par Uber pour s'implanter en France et le rôle des décideurs publics de l'époque et émettre des recommandations concernant l'encadrement des relations entre décideurs publics et représentants d'intérêts ; d'autre part, évaluer les conséquences économiques, sociales et environnementales de l'ubérisation et les réponses apportées par les décideurs publics. Notre table ronde concerne ce second objectif.
Nous avons beaucoup étudié les nouvelles formes de travail issues du développement des plateformes. La mise en avant du statut d'indépendant a été critiquée et ce statut dévoyé. En effet, les relations entre certaines plateformes et leurs travailleurs s'apparentent bien souvent à un salariat déguisé, donnant lieu à une requalification par le juge.
Nous avons également abordé la question centrale du fonctionnement des algorithmes instaurés par les plateformes et leur compatibilité avec le RGPD (règlement général sur la protection des données) et les principes de la Commission nationale de l'informatique et des libertés (Cnil), ainsi que leur manque de transparence pour les utilisateurs, souligné par la mission d'information du Sénat sur l'ubérisation de la société.
Vous avez, je crois, des avis divergents sur l'ensemble de ces sujets et nous sommes très intéressés par l'échange qui résultera de cette table ronde. Nous aimerions connaître votre définition de l'intelligence artificielle, la manière dont elle peut être liée à l'ubérisation de l'économie et les conséquences qui en résultent du point de vue du législateur.
Cette table ronde est ouverte à la presse et retransmise en direct sur le site de l'Assemblée nationale. L'article 6 de l'ordonnance du 17 novembre 1958 relative au fonctionnement des assemblées parlementaires impose aux personnes entendues par une commission d'enquête de prêter le serment de dire la vérité, toute la vérité, rien que la vérité.
(M. Antonio A. Casilli et M. Stéphane Mallard prêtent successivement serment.)
Je suis ravi d'être avec vous car j'ai rarement l'occasion de discuter avec des décideurs publics ; c'est avec les décideurs privés que je travaille beaucoup sur ces questions.
J'ai publié mon livre Disruption en 2018 mais j'ai étudié ces sujets depuis 2013-2014, d'abord comme salarié dans la finance, puis désormais à mon compte. J'ai été l'un des premiers en France à parler de l'arrivée de l'intelligence artificielle comme d'une nouveauté radicale : il ne s'agit pas d'ordinateurs plus puissants qui automatisent les processus – bref, d'informatique – mais d'algorithmes qui deviennent progressivement intelligents.
Dans mon livre, je défendais une thèse qui a beaucoup fait rire à l'époque et qui fait beaucoup moins rire aujourd'hui : c'est que les nouvelles technologies en général et l'intelligence artificielle en particulier sont en train de signer l'arrêt de mort du salariat. Quand j'explique cela en entreprise, que ce soit aux États-Unis ou en Europe, les réactions sont très diverses, car les gens ne savent pas pourquoi le salariat est né – en fait, principalement pour des raisons économiques, de rentabilité. Les nouvelles technologies sont en train d'inverser la situation qui a fait naître le salariat : les travailleurs indépendants deviennent plus rentables pour les entreprises mais aussi pour eux-mêmes.
En préambule, je rappelle que l'ubérisation n'est qu'un cas particulier du phénomène de disruption que nous vivons. Je pense que nous en serons d'accord sur le fait que l'ubérisation n'a rien à voir avec la fin du salariat, pour la bonne et simple raison qu'Uber ne permet pas aux chauffeurs de fixer leurs prix.
Je n'anticipe pas un clash avec M. Mallard : nous devrions trouver un accord au moins sur certaines définitions de base. Pour moi, l'intérêt de cet échange est de souligner l'importance d'Uber en tant qu'entreprise qui produit des services de traitement de la donnée à des fins d'automatisation.
En effet, au-delà du phénomène culturel, social et politique associé à son positionnement dans le secteur des mobilités puis de la livraison, Uber collecte énormément de données – de chauffeurs, de passagers – qui sont utilisées à des fins de monétisation, l'entreprise en faisant commerce pour les apparier avec celles d'autres fournisseurs d'informations, par exemple dans un but publicitaire, mais aussi et surtout à des fins d'automatisation. Le rôle que le programme de création d'un type particulier d'intelligence artificielle, c'est-à-dire les véhicules autonomes, a joué dans le développement de l'entreprise Uber, avec ses hauts et ses bas, est crucial. Uber n'est pas seulement une entreprise de transport, elle produit des services d'automatisation.
Il y a longtemps, Uber a lancé un projet de véhicules autonomes, initialement mené en interne, au sein d'une division appelée ATG (Advanced technologies group), puis externalisé en 2020 pour être confié à une start-up née d'un partenariat avec Amazon. Ce partenariat n'est pas le fruit du hasard ni, comme la presse l'a souvent présenté, une simple conséquence de critiques formulées à la suite d'accidents mortels causés par les véhicules autonomes d'Uber ou encore d'échecs technologiques – au sens où les véhicules étaient beaucoup moins autonomes que l'entreprise ne le déclarait. La fusion entre la masse de données collectées par Uber et l'expertise d'Amazon dans le traitement de ces données, surtout à l'aide de ceux que j'appelle les travailleurs du clic – des personnes « micropayées » pour entraîner des intelligences artificielles – est le nerf de la guerre.
Peu après le lancement de ChatGPT, une intelligence artificielle présentée comme une pure magie algorithmique, on a découvert qu'en réalité elle reposait sur des milliers de personnes au Kenya, aux Philippines ou en Turquie qui, à longueur de journée, l'entraînent et améliorent les données.
À mon sens, le législateur doit aussi se concentrer sur cette partie non émergée – le travail de la donnée nécessaire au fonctionnement d'une plateforme comme Uber – même si la partie visible – le combat des chauffeurs et des livreurs pour leurs droits – pose déjà son lot de problèmes.
Sur ce dernier point, pouvez-vous préciser vos recommandations ? La réflexion est-elle plus avancée dans d'autres pays qu'en France ? Elle est en cours au niveau de l'Union européenne.
Monsieur Mallard, pourriez-vous approfondir votre propos sur les transformations du salariat en lien avec l'intelligence artificielle ? Beaucoup d'auteurs aux États-Unis parlent de la fin du salariat, qu'il faudrait compenser par une indemnité universelle. Qu'en pensez-vous ?
La partie non émergée, ou invisible, dont je parle est un phénomène véritablement global, qui place le législateur face aux limites de son action au niveau national comme international. Les entreprises qui produisent des solutions d'intelligence artificielle sont essentiellement situées dans des pays du Nord et dans certains pays dits émergents mais qui ont en réalité déjà émergé, comme la Chine ou l'Inde. Les pays dans lesquels on trouve la vaste majorité des personnes qui, à longueur de journée, regardent ce que les véhicules autonomes enregistrent, et annotent – c'est-à-dire enrichissent – ces données pour réaliser ce qu'on appelle l'apprentissage automatique, sont dans des pays à faible revenu situés généralement dans le Sud.
Avec mon groupe de recherche, DipLab (Digital platform labor), j'ai enquêté sur les personnes qui, en Afrique et en Amérique latine, effectuent ce travail. Il consiste grosso modo à prendre les images qu'enregistre le véhicule autonome – qui est une sorte d'ordinateur sur roues, équipé de dispositifs enregistrant tout ce qui se passe aux alentours – et à annoter chacun de ces photogrammes. En pratique, chaque personne détoure chaque objet qui y apparaît, comme les autres véhicules ou les feux de circulation, de sorte que le véhicule autonome apprenne ce qu'est un autre véhicule ou un feu. Sont par ailleurs ajoutés des labels, c'est-à-dire des étiquettes. Ce n'est pas considéré comme un travail à forte valeur ajoutée ; les ingénieurs d'Uber le qualifient souvent de travail low-skilled, requérant une faible compétence, et en ont une vision assez négative : Anthony Levandowski, longtemps directeur de la division véhicules commerciaux au sein de l'entreprise, définissait ces travailleurs comme des robots humains. Leur salaire médian dans le monde est de 2 dollars de l'heure, selon une estimation effectuée par un collègue d'Oxford en 2020 et qui reste largement valable d'après nos propres recherches.
Plusieurs questions se posent, notamment liées à ce que le législateur peut faire. Dans quels pays se trouvent les personnes qui réalisent ce travail d'entraînement des intelligences artificielles, y compris celles de Uber ? Nous n'avons pas de données sur ce dernier point. Nous connaissons le nom des plateformes sur lesquelles Uber se sert car, à un moment, Uber les a rachetées ; mais, ce faisant, elle les a internalisées et ainsi protégées des regards des chercheurs, des législateurs et de toute autorité désireuse de rendre plus transparent ce processus d'entraînement.
Par ailleurs, qu'en est-il du statut de salarié de ces personnes ? Souvent, elles font partie de longues chaînes de sous-traitance qui s'appuient sur des plateformes qui n'ont donc pas de salariés à proprement parler, mais plutôt des usagers, lesquels se connectent pendant – prétendument – quelques minutes pour réaliser une tâche et sont payés à la tâche. C'est un retour au tâcheronnat du XIXe siècle, au travail payé à la pièce. Le problème va bien au-delà de la requalification du travailleur indépendant en salarié. Les chaînes de sous-traitance sont complexes parce qu'elles s'articulent parfois avec des entreprises plus classiques installées en Europe, y compris en France. Il y a là un mélange de formes d'organisation très diverses où l'encadrement du travail est souvent bien plus compliqué que le simple clivage entre salariat et travail indépendant.
Au-delà des travailleurs du clic payés une misère, que M. Casilli a très bien décrits, nous travaillons tous gratuitement pour entraîner des algorithmes d'intelligence artificielle ! Les moindres actions sur votre ordinateur ou votre smartphone, dans vos GPS ou vos applications bancaires sont envoyées aux plateformes – et pas seulement à Uber – à cette fin, pour entraîner les algorithmes d'intelligence artificielle.
Ensuite, les algorithmes d'intelligence artificielle d'Uber ne sont pas du tout les meilleurs au monde. Ces gens ne sont pas des professionnels des algorithmes. En matière de puissance, ils sont très loin de ChatGPT, de Google et des géants de la deep tech.
J'en viens à ma thèse sur la fin du salariat. D'abord, pourquoi le salariat existe-t-il ? Avant, il y avait l'artisanat : on payait à la tâche ou à l'heure des gens qu'on allait chercher un par un pour produire quelque chose. Il y a une centaine d'années, le salariat est né parce qu'il était plus rentable : on a décidé de prendre ces anciens artisans pour les réunir dans une entreprise et les faire collaborer, de sorte que leurs interactions produisent quelque chose. On l'a fait parce que les coûts pour faire collaborer tous ces gens dans une entreprise, ce que le prix Nobel d'économie Ronald Coase a appelé les « coûts de coordination », étaient inférieurs aux coûts de transaction nécessaires pour contractualiser avec chaque artisan. Dès lors que les premiers sont inférieurs aux seconds, il est rentable de créer une entreprise réunissant des salariés qui ont un lien de subordination avec le chef.
Aujourd'hui, du point de vue économique, dans le business model, un salarié du privé n'est qu'une marge : il sert à faire gagner de l'argent à l'entreprise ; c'est un facteur de production. Or avec les nouvelles technologies, et plus encore avec l'intelligence artificielle, le rapport entre les deux types de coûts s'inverse : les coûts de transaction avec des indépendants deviennent inférieurs aux coûts de coordination.
Il faut voir dans ce phénomène la suite de la mondialisation. Dans la mondialisation, des entreprises cherchent à booster leur rentabilité partout où elles le peuvent dans la société. Elles commencent par externaliser dans des pays à bas coût certaines activités. Elles se concentrent ainsi sur leur cœur de métier, le plus rentable, tout le reste étant externalisé. Quelle couche de coûts reste-t-il alors à récupérer, sinon celle que l'on prend sur le dos des salariés ?
Ce qui se passe en ce moment avec les nouvelles technologies, c'est que les gens les plus compétents, dans les métiers pour lesquels il existe une demande – pas seulement dans l'informatique – ont économiquement intérêt à sortir de l'entreprise pour récupérer cette marge, en devenant indépendants et en facturant eux-mêmes l'entreprise. Ils peuvent le faire parce qu'il est très facile de trouver des clients – l'information est fluide, sur les plateformes d'indépendants – et que des outils professionnels sont disponibles pour tout : un GPS pour le chauffeur Uber, une application de trading pour ceux qui travaillent dans la finance, de l'espace de stockage, du cloud, de l'intelligence artificielle…
Ce n'est pas anecdotique. Ainsi, de grandes entreprises du secteur du luxe arrêtent de recruter des chefs de projet ou des chargés de marketing et travaillent uniquement avec des free-lance, parce que c'est la seule façon d'avoir les meilleurs. Les gens engagés, qui offrent de vrais gains de productivité, ne veulent plus être salariés dans les secteurs où il y a de la demande. C'est un tabou. Les seules entreprises qui peuvent se permettre d'avoir des salariés ayant un bon niveau de compétitivité sont celles qui ont un monopole sur leur secteur, comme les géants du numérique : un ingénieur en intelligence artificielle peut aller travailler chez Google, car Google sera capable de le surpayer par rapport à ce qu'il toucherait s'il était indépendant. Mais cela suppose d'être compétent – les moins compétents, qui se retrouvent en compétition sur les plateformes, s'en sortent moins bien – et d'exercer un métier demandé – cela ne marche pas si l'on veut être porteur d'eau, pour reprendre un exemple bien connu des cours d'économie.
Dans le salariat, ce sont les entreprises qui portent le risque : elles subissent les fluctuations de la demande sur leur carnet de commandes alors que le salarié touche son salaire sans savoir où en est la demande ni s'il est en danger. Les entreprises commencent à se dire que ce n'est plus forcément à elles de porter ce risque et à le transférer sur des travailleurs indépendants.
La différence avec Uber est qu'il s'agit là de travailleurs indépendants hautement qualifiés, qui facturent des prestations haut de gamme. Le problème d'Uber, qui l'exclut du véritable free-lancing, est que les chauffeurs ne peuvent pas fixer leur prix ; ce n'est donc pas un marché. Les travailleurs indépendants que j'évoque fixent leur prix et le marché décide – s'ils ont de la demande, s'ils sont compétents, si on les rappelle.
Le futur, c'est l'externalisation massive des travailleurs. Chacun dans sa spécialité deviendra travailleur indépendant et se coordonnera avec des gens complémentaires avec lesquels il formera comme une petite entreprise, un essaim d'indépendants accomplissant une tâche – construire un avion, produire un objet de luxe… – de manière beaucoup plus efficace hors de l'entreprise, chacun contractualisant directement avec le client. Surtout, un algorithme enverra la demande directement aux travailleurs : il pourra leur proposer chaque matin telle mission de deux heures, pour tel prix, mais aussi une autre mission de trois ans, dans le cadre d'un contrat ferme. On va vers une flexibilité beaucoup plus grande du monde du travail.
En contrepartie, ce sont les moins compétents qui resteront dans le salariat. C'est un tabou absolu : les entreprises le savent mais il n'y a pas grand monde pour en parler en public.
J'ai compris qu'Uber était technologiquement bien moins avancé que ChatGPT ou Google ; mais quelle part de sa rentabilité – et de celle de ses concurrents directs – repose sur son modèle technologique et quelle part sur l'organisation du travail, autrement dit sur le recours à des indépendants ou à des auto-entrepreneurs ?
Nous serons sans doute d'accord sur le fait que le phénomène historique Uber est en grande partie fondé sur des éléments non technologiques. Il est exact que la technologie, chez Uber, n'est pas au même niveau que dans d'autres entreprises du numérique. Encore faut-il s'accorder sur le type d'entreprise qu'est Uber.
Uber a pour spécificité d'avoir été l'une des premières plateformes. Elle se présentait donc comme un modèle alternatif à l'entreprise telle que Ronald Coase l'avait décrite : capable de limiter certains risques, comme celui de devoir renégocier chaque jour le prix d'un salaire ou d'une prestation, en établissant certains standards ; autrement dit, de limiter les coûts de transaction. Les plateformes ne font pas cela : elles sont parfaitement à l'aise avec une fluctuation constante des prix. De ce point de vue, elles sont un hybride entre une entreprise et un marché. On le voit très bien dans le cas d'Uber.
En disant cela, j'ai à l'esprit deux questions qui ont certainement été déjà débattues dans le cadre de vos travaux : la tarification dynamique d'Uber et le management algorithmique de ses chauffeurs. Ce sont deux facettes du même phénomène, qui explique le succès d'Uber, mais elles correspondent toutes les deux au marché interne d'Uber.
Pour les consommateurs – les passagers –, la tarification dynamique est la fluctuation des prix, qui provoque par ailleurs tout un ensemble de conséquences concernant les données nécessaires au calcul de ces prix. L'application Uber est très demandeuse de données. Celles-ci sont utilisées pour apparier passagers et chauffeurs. Pour ces derniers non plus, le prix de la prestation n'est pas toujours le même.
Non seulement les chauffeurs ne sont pas de véritables indépendants, puisqu'ils ne peuvent pas décider le prix de leurs prestations, mais celui-ci est en outre soumis à une énorme volatilité. Ils subissent donc tous les inconvénients de l'indépendance et tous ceux de la dépendance, ainsi que les risques associés à ce marché par définition très instable, dans lequel les prix changent d'une minute à l'autre.
Nous sommes toutes et tous des travailleurs de la donnée, je rejoins M. Mallard sur ce point, parce que nous fournissons tous des données qui aident l'algorithme de tarification dynamique d'Uber à fonctionner et qui participent à déterminer le prix des courses, donc le management algorithmique des chauffeurs. Tout cela constitue la spécificité du modèle d'Uber et explique son succès et sa longévité, malgré sa technologie assez défectueuse par rapport à d'autres concurrents.
L'avantage concurrentiel et le business économique d'Uber ne reposent ni sur sa technologie, en effet très banale, ni sur la collaboration de faux travailleurs indépendants opérant dans un système de prix fixés par l'entreprise, mais sur l'usage, sur la qualité du design et de l'expérience utilisateur. Les responsables d'Uber se sont calqués sur le modèle d'Amazon, qui offre une expérience exceptionnelle et fluide, dans laquelle le client est placé au centre – l'idée d'Uber est née un jour où ses fondateurs se trouvaient coincés à Paris et rêvaient qu'un taxi vienne les chercher là où ils étaient.
Uber a développé une stratégie de croissance ville par ville très agressive, qui l'oblige à diminuer les coûts le plus possible, à faire des économies d'échelle et de volume, et surtout à réaliser des marges les plus élevées possible pour pouvoir exister. Il ne me semble pas qu'Uber soit rentable aujourd'hui – c'est à vérifier. Au début de son activité, l'entreprise subventionnait les courses car son système n'était pas rentable. Qu'elle fixe elle-même le prix des courses n'est pas suffisant pour assurer sa rentabilité, parce que la loi du marché régule l'équilibre général. Vous aurez constaté que, depuis le covid, il est presque impossible de prendre un Uber : la faible rentabilité des courses a fait fuir tous les chauffeurs soit hors de Paris, soit vers d'autres plateformes au système de rémunération différent. Je discute beaucoup avec des chauffeurs, qui me disent que le modèle d'Uber ne fait plus rêver. En outre, l'entreprise a commencé à intégrer les chauffeurs de taxi traditionnels dans son application, lesquels ont leur propre modèle de rémunération, plus avantageux.
Bref, la différence d'Uber reste la qualité de l'expérience et la transformation du service qui est devenu une « commodité ». Il faut comprendre que les nouvelles technologies sont en train de transformer tout ce qui nous entoure en commodité, c'est-à-dire en quelque chose de facile et de pas cher. Une course Uber n'est pas très onéreuse, alors qu'avant, seuls les gens très riches avaient un chauffeur à leur disposition ! Aujourd'hui, on peut avoir du cloud et de l'intelligence artificielle d'une puissance démesurée dans sa poche pour trois fois rien ; on peut créer un site internet comme un professionnel pour quelques euros – et cela sera encore plus facile avec l'intelligence artificielle. Les nouvelles technologies et les algorithmes transforment tout en commodité pour créer de la valeur pour tout le monde. Au passage, cela redonne du pouvoir aux gens – ce qui vous intéresse en tant que responsables politiques. On parle d' empowerment dans le monde anglophone : avec toutes ces technologies dans sa poche, l'individu récupère du pouvoir sur lui-même et optimise, s'il le souhaite, tous les aspects de sa vie. En réalité, c'est cela l'ubérisation, plus que le modèle des plateformes et des travailleurs précaires.
Cette piste de réflexion sur la question de l'expérience est très intéressante. Que l'on se place du côté des travailleurs visibles d'Uber, qui conduisent des clients ou qui livrent des marchandises, ou de celui des invisibles, qui s'occupent des données quelque part dans le monde, l'expérience d'Uber est beaucoup plus orientée vers la friction, c'est-à-dire qu'elle est beaucoup moins agréable et pratique. Si dans certaines villes Uber a intégré des taxis traditionnels – je suis actuellement à Vienne où la fusion entre les Uber et les taxis est totale – c'est parce qu'elle était, en tant qu'application libre, extrêmement difficile à utiliser, non à cause de son interface mais du travail qu'elle demandait aux chauffeurs pour deviner ce que l'algorithme allait faire : chercher à comprendre les règles et les critères qu'un algorithme applique pour fixer un certain tarif à un certain moment est de la véritable « rétro-ingénierie », qui peut amener les chauffeurs à agir de manière plus avertie. Avec Uber, cette tâche est devenue un travail de spécialistes : les chauffeurs doivent non seulement savoir que le prix sera plus élevé autour des gares, en cas de pluie, à la fin d'un événement sportif ou d'un concert ou encore si le niveau de chargement de la batterie du téléphone de la personne qui se connecte est de 20 % plutôt que de 80 %, mais ils doivent également arbitrer entre la plateforme d'Uber et ses concurrents.
C'est un travail mental important qu'Uber ne rémunère pas. Cette dernière se présente comme une plateforme de conduite ou de livraison, alors que les chauffeurs ne passent qu'entre 45 % et 61 % de leur temps au volant : le reste, ils le passent à produire des données en cliquant sur l'application, répondant à des messages, s'inscrivant sur des créneaux et choisissant des missions, le tout en essayant surtout de deviner ce que l'algorithme va faire avec l'ensemble de ces données.
Nous avons déjà auditionné de nombreux acteurs sur la question des conséquences de l'ubérisation sur le lien de subordination au travail. Il y a aussi eu des décisions de justice, et je suis très attachée à la directive européenne sur la présomption de salariat en préparation, qui repose sur le constat que la « plateformisation » du travail, dans la logique capitaliste, a pour but de maximiser les profits et de poursuivre un développement monopolistique. L'idée est de casser le coût du travail en faisant croire aux travailleurs qu'ils sont indépendants alors qu'ils ne le sont pas. Derrière ce phénomène se cache aussi une volonté culturelle et idéologique, qui prétend que les travailleurs sont leur propre patron alors qu'ils sont subordonnés à un algorithme dont ils ne maîtrisent pas les rouages.
J'ai deux questions à vous poser, qui sont davantage en lien avec vos travaux.
D'abord, quelle est la réalité de l'économie des données ? Uber a d'abord cherché à faire disparaître les taxis en subventionnant les courses pour tuer la concurrence et en faisant miroiter des gains élevés pour attirer de nombreux chauffeurs – elle inondait le marché des deux côtés : usagers et chauffeurs. Cet objectif n'a pas été atteint mais l'entreprise est en revanche parvenue à lever énormément de fonds et à capter beaucoup de données. On sait que les premières rencontres entre les dirigeants d'Uber et le ministre de l'Économie de l'époque, Emmanuel Macron, ont été organisées par l'entremise de Google. Ce genre d'entreprises, tout comme M. Xavier Niel par exemple, avaient intérêt à ce que les décideurs publics épousent non seulement leur logique technologique, mais également leur vision culturelle de l'évolution de la société française.
Si Uber ne fait pas de bénéfices en vendant des services grâce à un algorithme de mise en relation, qu'en est-il des données ? Pouvez-vous nous en dire plus sur le partenariat entre Uber et Amazon ? Quels profits Uber tire-t-elle de partenariats avec Google par exemple ? Existe-t-il des travaux sur l'économie des données et les profits des plateformes résultant de l'acquisition d'un capital de données considérable ?
Ensuite, indépendamment du statut – que l'on rétablisse, grâce à la directive européenne, le lien de subordination et l'existence d'une situation d'un salariat de fait ou que l'on échoue et que l'on confirme le retour à des tâcherons payés comme au XIXe siècle –, quelle est la bataille sur la transparence des algorithmes et les droits qui y sont afférents ? La question de la transparence des algorithmes renvoie à l'enjeu de leur compréhension : même si on me montrait l'algorithme dans son entier, je n'y comprendrais rien ! Or les consommateurs d'un service doivent savoir ce qu'ils paient et les travailleurs doivent connaître les fondements de leur rémunération et les conditions de son évolution. L'État de droit impose non seulement la transparence des algorithmes mais aussi leur caractère compréhensible. Qu'en pensez-vous ?
Le monde dans lequel nous entrons est en train de tout transformer en commodités : plus rien ne comptera économiquement, mis à part la très haute valeur ajoutée, qui est liée à la manipulation des données. La très haute valeur ajoutée réside dans la capacité à relier les informations : c'est ce qui se passe quand on fait une découverte scientifique ou qu'on trouve un nouveau médicament – après avoir effectué des corrélations, établi des liens de cause à effet. Comprendre le lien entre des informations, c'est ce qui crée le plus de valeur aujourd'hui. En termes de secteurs économiques, ce sont dans les biotechnologies et l'informatique, en particulier l'intelligence artificielle, que l'on crée actuellement le plus de valeur. La marge des entreprises en termes de rentabilité se situe sur ce créneau. Tout le reste est de la commodité.
Le pire est que la manière des humains de traiter l'information deviendra, elle aussi, une commodité, qui ne vaudra plus rien économiquement. Prenons l'exemple des médecins : avec l'intelligence artificielle, l'expertise médicale deviendra un service de base sans valeur économique. On peut imaginer que 1'euro dépensé chez un médecin se décompose, à peu près, en 70 centimes d'expertise médicale qui rémunèrent des études et un vrai savoir, 20 centimes de relation humaine, qui nous rassure, et 10 centimes d'autorisation juridique de prescrire des médicaments ; avec les nouvelles technologies, en particulier l'intelligence artificielle, toute la partie liée à l'expertise et au diagnostic disparaît et le prix de la consultation ne sera plus que de 30 centimes. Voilà ce qu'est la transformation en commodité du service apporté par le médecin, comme fut celle du service effectué par le chauffeur. Tous les métiers seront touchés par cette évolution, y compris le mien, et le vôtre : l'intelligence artificielle suggérera demain des canevas de politiques publiques, qui vous expliqueront ce qu'il faut faire pour atteindre les objectifs que vous aurez fixés.
La connaissance est devenue une commodité avec internet ; ce sera au tour de l'expertise de le devenir avec les algorithmes et l'intelligence artificielle. Le but des entreprises est d'accélérer ce mouvement. Pour Uber, cela veut dire connaître les clients, les lieux où ils se trouvent et leurs déplacements – et peut-être, demain, leur proposer de transporter ou de stocker des objets, et ainsi court-circuiter La Poste ou les loueurs de conteneurs. En maîtrisant les données, on peut créer beaucoup de valeur. C'est l'économie de demain. On dit des données qu'elles sont le pétrole du XXIe siècle.
La seule chose que vous pouvez faire actuellement pour la transparence, c'est exposer l'objectif pour lequel une intelligence artificielle a été entraînée – rentabilité ou maximisation du temps, par exemple – et les variables qui font fonctionner l'algorithme. En revanche, vous ne saurez jamais comment travaille un algorithme d'intelligence artificielle, parce que le système est trop complexe : des milliards de variables interagissent et se modifient pour faire émerger un résultat très utile et pertinent. Demain, nous monterons dans des avions pilotés par une intelligence artificielle, dont on ne saura pas expliquer la marche ; il restera à s'assurer que l'algorithme est statistiquement meilleur qu'un humain – de la même façon que nous utilisons notre cerveau tous les jours, que nous avons confiance en lui pour effectuer telle action particulière, mais que nous ne savons pas expliquer comment il agit. Ce qui va compter dans le monde de demain ne sera pas de connaître le fonctionnement des algorithmes mais leur objectif et leur fiabilité.
Avant de répondre aux deux questions, j'aimerais souligner la différence de perspective entre M. Mallard et moi : nous adoptons les mêmes catégories conceptuelles, mais il les décline au futur quand je considère avant tout Uber comme un phénomène historique. En effet, l'épopée d'Uber est contemporaine du développement de l'économie des données des vingt dernières années.
Puisque j'ai juré au début de l'audition de dire toute la vérité, je dois indiquer que nous ignorons combien Uber gagne précisément avec ses données, et même où ces dernières sont stockées et traitées. Nous avons des indices, fondés sur des analogies avec des estimations portant sur d'autres entreprises et plateformes. Selon l' Oxford internet institute, le marché du travail de la donnée – constitué de tâches effectuées en ligne pour des plateformes sur lesquelles, comme le fait Amazon mechanical turk, on réalise de l'étiquetage, du filtrage et du tri de données – emploie 165 millions de personnes dans le monde. Ce ne sont pas toutes des micro-travailleurs payés à la pièce : certaines peuvent effectuer, en free-lance, un travail plus spécialisé. Néanmoins, la majorité des tâches effectuées sont faiblement rémunérées.
Bien qu'elle ne soit pas technologiquement très performante, la plateforme Uber est une application qui demande et qui capte beaucoup de données, résultant de l'inscription, du paiement, de la géolocalisation. La vigilance politique et citoyenne s'est focalisée sur le fait qu'Uber traitait mal ses chauffeurs et livreurs, mais elle ne s'est pas assez portée sur l'utilisation par Uber des données des usagers et des chauffeurs qu'elle recueille. Uber ne s'est pas retrouvée au cœur d'un scandale, comme Facebook avec Cambridge analytica, alors qu'il y aurait à mon sens de quoi enquêter.
Quant à la transparence, le processus d'élaboration de l'intelligence artificielle est souvent présenté comme trop compliqué pour pouvoir être exposé aux profanes. Les personnes qui produisent les algorithmes ont intérêt à véhiculer cette idée. Toutefois, la transparence ne concerne pas que le code – ce dernier, même ouvert, peut rester une boîte noire – mais peut aussi se traduire par la vigilance que l'on exerce sur la sous-traitance du travail, visible comme invisible. La transparence pourrait impliquer pour Uber un devoir d'expliquer son utilisation de nos données, les lieux où elle les envoie, ainsi que la rémunération et les conditions de travail des personnes qui les traitent pour faire fonctionner son algorithme de tarification dynamique et pour préparer ses véhicules autonomes d'intelligence artificielle. Nous ignorons tous ces éléments, qui devraient être au centre des interrogations que le régulateur soumet à la plateforme Uber.
Ce que représente l'économie des données reste très flou pour moi, mais je vous remercie pour les éléments que vous avez déjà exposés. Nous aurons peut-être besoin de vous poser d'autres questions par écrit pour approfondir la question et, surtout, pour élaborer les recommandations que les décideurs publics devraient suivre. Notre devise républicaine est « Liberté, égalité, fraternité », non « Propriété, surexploitation et déshumanisation ». Les nouvelles technologies doivent être au service de l'intérêt général, du progrès humain et de la soutenabilité écologique ; il ne faut pas laisser la logique capitaliste remettre en cause l'ensemble de nos principes.
Nous n'avons pas à avoir peur de l'intelligence artificielle, nous devons faire en sorte que l'État de droit conserve la maîtrise de l'intérêt général, quelle que soit l'évolution des technologies. Nous ne devons faire preuve d'aucune naïveté sur la façon dont la logique capitaliste tend à la surexploitation des nouvelles technologies. J'aurai des précisions à vous demander sur l'utilisation économique des données dans le capitalisme à l'heure de l'intelligence artificielle. Quels contrôles de l'exploitation des données les décideurs publics peuvent-ils prévoir ? La question ne se pose pas simplement du point de vue de la Cnil et de la protection des libertés fondamentales, mais également sur le plan de la transaction économique et de la répartition des richesses.
Si j'ai bien compris, vous dites que nous nous laissons convaincre que le système est opaque par ceux qui y ont intérêt alors qu'il n'est pas si compliqué de garantir, pour certaines plateformes, non seulement une transparence mais une maîtrise des conséquences de la modification des algorithmes. Un travail de formation et de réflexion doit être mené sur cet aspect et sur les effets des algorithmes sur le droit du travail et le droit de la consommation. Les décideurs publics sont sans doute en retard dans ces domaines.
Quant à la voiture autonome, la dystopie n'est pas encore advenue… Si l'intelligence artificielle progresse fortement, l'expérience montre que le facteur humain, capable de distinguer si c'est une poule, une personne âgée ou une femme avec une poussette qui traverse la route, est difficilement remplaçable. Je vois avec inquiétude que vous pensez que cet obstacle sera rapidement surmonté : l'avenir nous le dira. Je vous remercie, une nouvelle fois, pour vos contributions.
Nous vous remercions tous les deux d'être venus devant la commission d'enquête pour cet échange très riche et très intéressant. Tous les sujets ne pouvaient pas être épuisés en une heure, d'autant que nous nous étions surtout penchés jusqu'à présent sur d'autres aspects de l'ubérisation, en particulier celui du droit du travail, qui est évidemment central. Or la dimension que nous avons explorée cet après-midi est si riche qu'elle mériterait presque une commission d'enquête à elle toute seule. Comme cela a été dit, nous aurons peut-être d'autres questions à vous poser par écrit. Si vous pensez à des lectures complémentaires, rapports et autres documents que nous pourrions intégrer à nos réflexions, n'hésitez pas à nous les signaler, ils nous seront très précieux.
La séance s'achève à quinze heures cinq.
Membres présents ou excusés
Présents. – M. Benjamin Haddad, Mme Amélia Lakrafi, Mme Béatrice Roullaud, Mme Danielle Simonnet, M. Frédéric Zgainski
Excusés. – Mme Aurore Bergé, Mme Anne Genetet, M. Olivier Marleix, Mme Valérie Rabault