Intervention de Charles Thibout

Au cours de mon intervention liminaire, je me bornerai à essayer de dresser un panorama évidemment limité et subjectif de l'histoire politique de l'intelligence artificielle. Ces jalons devraient nous permettre au fur et à mesure de mettre en lumière les principaux enjeux.

Comme vous l'avez indiqué, le terme « intelligence artificielle » a été conçu comme une formule marketing par le mathématicien John McCarthy dans les années 1950, qui désirait trouver des financements pour le nouveau champ de recherche qu'il était en train de créer. La seconde origine du terme est plus ancienne : elle s'enracine dans l'Amérique de la seconde guerre mondiale, à la croisée des champs scientifiques, militaires et industriels. L'IA dérive essentiellement d'un mouvement scientifique – la cybernétique – apparu dans les années 1940, animé par des chercheurs venus de différents horizons qui s'étaient mis en tête d'édifier une science générale du fonctionnement de l'esprit humain et de reproduire cet esprit humain dans une machine. D'une certaine manière, il y a là les origines scientifiques ou philosophiques de l'intelligence artificielle et du transhumanisme.

Comme tant d'autres scientifiques à cette époque, les cybernéticiens travaillent pour l'armée et le département de la guerre, qui n'était pas encore le département de la défense. Parmi eux, certains – comme Norbert Wiener, la figure de proue du mouvement cybernétique – vont s'atteler à l'automatisation des tâches militaires. En lien avec Julian Bigelow, un ingénieur d'IBM – International Business Machines Corporation –, ils vont travailler à la mise au point d'un système de tir prédictif antiaérien. L'idée consistait à « prendre en entrée » des données acoustiques, comme le bruit des aéronefs, pour essayer d'en prédire la trajectoire pour que la défense antiaérienne puisse les détruire.

Les liens entre la cybernétique et le monde de la défense se sont poursuivis dans les années suivantes avec l'intelligence artificielle. Dès les années 1960, des millions de dollars ont été dépensés chaque année par l' Advanced Research Projects Agency (ARPA), l'ancêtre de la Defense Advanced Research Projects Agency (DARPA), l'agence de recherche et développement du Pentagone. Ces sommes ont contribué à financer les laboratoires d'intelligence artificielle du Massachusetts Institute of Technology (MIT), des universités Carnegie Mellon et Stanford, où John McCarthy venait de créer le laboratoire d'intelligence artificielle, ainsi que le laboratoire d'IBM.

Il est difficile de dire quand ont été testées les toutes premières applications de l'intelligence artificielle mais, dès la guerre du Vietnam, les militaires américains disposaient à leurs côtés d'une équipe d'experts d'informaticiens en charge d'utiliser l'intelligence artificielle pour aider les stratèges à prendre des décisions dans le cadre de ce conflit. Ces débuts étaient tâtonnants : en 1969, à l'un de ces experts qui lui avait demandé quand la guerre serait gagnée, l'ordinateur avait répondu : « Vous l'avez gagnée en 1964 ».

En résumé, l'origine de l'intelligence artificielle plonge ses racines dans la défense américaine, c'est-à-dire l'État. À cet égard, l'IA ne diffère pas d'autres technologies développées à cette époque aux États-Unis, qui ont pratiquement toutes été financées sur fonds fédéraux, et tout particulièrement par l'armée. Cela avait d'ailleurs conduit l'économiste américain John Kenneth Galbraith, en 1967, à parler des États-Unis comme d'une économie planifiée.

Ensuite, l'intelligence artificielle n'est pas un enjeu géopolitique récent. Dès les années 1980, se met en place une compétition internationale autour du leadership en intelligence artificielle, dans laquelle rivaliseront les Américains, les Européens et surtout les Japonais, le Japon étant alors dans un état de quasi-vassalité à l'égard des États-Unis, qui disposent d'ailleurs toujours de bases militaires sur le sol nippon.

De fait, ce n'est pas tant l'usage militaire qui inquiète le gouvernement américain à cette époque que l'impact de l'IA sur l'économie américaine, le risque majeur mis en avant étant que l'informatique japonaise dépasse celle des États-Unis. Ainsi, le risque identifié était l'automatisation généralisée des tâches, le remplacement des travailleurs humains par les machines et, à ce titre, que les gains de productivité ne bénéficient qu'aux Japonais. En réaction, les Américains ont lancé un programme d'intelligence artificielle de 1 milliard de dollars dans les années 1980, soit un montant gigantesque et inédit à cette époque pour un tel domaine. À l'orée des années 1990, le Japon est entré dans une crise financière et économique catastrophique, qui a mis totalement fin aux espoirs japonais dans ce domaine. Dès lors, la compétition internationale autour de cette technologie s'est éteinte, pour ne ressurgir que vingt-cinq ans plus tard, avec l'émergence d'un nouveau rival stratégique : la Chine.

Pour évoquer l'essor de la Chine dans l'intelligence artificielle, il faudrait l'inscrire dans le temps long et remonter jusqu'au XIXe siècle, aux guerres de l'opium et au sac du Palais d'Été par les troupes britanniques et françaises en 1860, pour comprendre comment un empire conservateur, scrupuleusement attaché à ses traditions et réfractaire à la modernité occidentale, en est venu à épouser les canons du développement technologique européen, puis américain à partir de la seconde guerre mondiale. Il faudrait également expliquer le changement profond intervenu à la mort de Mao Zedong et son remplacement par Deng Xiaoping. Je vous renvoie ici aux très belles pages que l'anthropologue Maurice Godelier a consacrées à cette question.

Depuis les années 1970, la politique scientifique et technologique a progressivement gagné le rang de priorité nationale dans l'agenda du parti communiste chinois. À cet égard, l'intelligence artificielle ne dévie pas des objectifs que se sont fixés les hiérarques du parti il y a un demi-siècle et qui peuvent être attribués à toutes les puissances qui se rêvent en puissances technologiques numériques, y compris dans le domaine de l'intelligence artificielle. Ces objectifs sont clairement énoncés dans le plan de développement de la nouvelle génération d'intelligence artificielle, dévoilé par le Conseil des affaires de l'État en juillet 2017.

Le premier objectif de ce plan est d'ordre économique : la promesse de l'intelligence artificielle est de produire ou d'aider à produire des biens et des services, en se passant le plus possible des humains, même si en réalité cela conduit l'affectation d'êtres humains à des tâches subalternes, redondantes, extrêmement mal rémunérées et malgré tout essentielles pour entraîner une intelligence artificielle. Sur ce sujet, je vous renvoie aux travaux du sociologue Antonio Casilli, et notamment à son livre En attendant les robots. En résumé, le but, fût-il illusoire en l'état, consiste à dégager des gains de productivité jusqu'à l'automatisation complète des tâches et l'élimination non moins complète du facteur travail humain, ce qui n'est pas un atout négligeable dans un pays où la démographie est en berne depuis 2017.

Le second objectif est, lui, d'ordre sociopolitique. Comme tout régime politique et a fortiori comme tout régime politique autoritaire, le régime chinois a, depuis le commencement, mis en place des dispositifs de contrôle social et de régulation des rapports sociaux sous l'angle de la surveillance, de la censure, de la propagande et de la répression, afin de maintenir sa propre stabilité.

Le plan IA de la Chine embrasse cette perspective, comme le montre sa section trois, et notamment deux sous-sections intitulées, pour l'une, « Promouvoir une gouvernance sociale intelligente » – dotée des armes de l'intelligence artificielle – et, pour l'autre, « Utiliser l'intelligence artificielle pour renforcer les capacités en matière de sûreté et de sécurité publique ». De fait, des dispositifs d'intelligence artificielle à des fins de contrôle de la population sont en place depuis quelques années, notamment dans la province du Xinjiang, où vit une importante communauté ouïghoure. Nous savons à ce titre que des technologies de cette sorte ont déjà été mises en place, notamment dans le cadre des manifestations ayant eu lieu à Hong Kong il y a quelques années.

Que pouvons-nous en conclure ? Tout d'abord, le développement de l'intelligence artificielle et plus généralement des technologies émergentes est indissociable d'une forte intervention étatique, qui peut prendre différents chemins, bien entendu. Il faut bien retenir que les financements et les innovations privés en intelligence artificielle reposent sur des bases étatiques et en particulier militaires, contredisant le mythe de l'entrepreneur autonome. En réalité, le monde des technologies avancées est un monde d'États, de politique industrielle, de financement public de la recherche, de programmes militaires. Seul l'État peut concéder des investissements aussi importants, dont la rentabilité est incertaine. Seul l'État peut garantir à des entreprises un retour sur investissement à l'abri des fluctuations du marché. Ce n'est pas un hasard si les grandes entreprises du numérique proviennent d'États interventionnistes, qui ne lésinent pas sur les dépenses militaires et les contrats à long terme.

Je termine cette intervention par un pas de côté, qui peut s'assimiler à une remarque de bon sens, pour embrasser du regard tous les enjeux que soulève l'intelligence artificielle : les individus ; les organisations ; les entreprises ; les États qui financent l'intelligence artificielle et, indépendamment de leurs objectifs propres, ont pour but la substitution la plus large possible des machines aux êtres humains, afin de dégager des gains de productivité au sens large.

Ces machines sont jugées plus performantes, moins coûteuses. Elles ne perçoivent pas de salaires, ni d'allocations, ni de pensions de retraite. Elles sont aussi moins dangereuses parce qu'elles ne sont pas susceptibles, sauf innovations radicales, de faire grève, de manifester, de refuser d'obéir aux ordres ou de se révolter. Si l'on se met à la place d'un État belligérant, il peut sembler plus efficient d'un point de vue politique et des buts de guerre, de remplacer les soldats par des machines, ne serait-ce que pour éviter les réactions de la population.

Évidemment, cette recherche de productivité pose des questions essentielles. Que fait-on d'une masse importante de la population sans emploi ou reléguée à des tâches annexes qui ne lui permettent pas de subvenir à ses besoins ? Quels sont les débouchés d'une entreprise dont la clientèle se retrouverait impécunieuse, incapable de consommer le fruit de la production de l'intelligence artificielle ? Comment maintenir la confiance d'une population, et donc étouffer ses élans séditieux, si son lien à la puissance publique est intermédié par des machines, qui plus est des machines dont le fonctionnement est, par nature, opaque ? En effet, c'est bien là un trait distinctif de l'intelligence artificielle que de produire des résultats sans que l'on ne sache exactement comment elle y est parvenue.