Cette note de lecture est également disponible en anglais (International Labour Review, vol. 165, n^o 2), et en espagnol (Revista Internacional del Trabajo, vol. 145, n^o 2). Traduit par Laurence Rizet.

L’Œil du maître: une histoire sociale de l’intelligence artificielle, Genève, Entremonde, 2026, 344 pages, ISBN 978-2-940426-75-1 pour la version française.

L’ouvrage The Eye of the Master, de Matteo Pasquinelli, s’articule autour d’une thèse centrale: l’intelligence artificielle (IA) n’imite pas l’intelligence biologique, mais plutôt celle du travail et des rapports sociaux.

Selon Pasquinelli, les théories informatiques ne sont pas neutres et n’ont pas été élaborées de façon abstraite. Elles portent au contraire la trace des fantasmes coloniaux et de la division en classes héritée de l’ère industrielle. À titre d’exemple, il cite Turing, qui a divisé les tâches informatiques suivant une hiérarchie de «maîtres», «servants» et «filles»¹. L’IA vise à s’emparer des connaissances exprimées par les comportements individuels et collectifs pour les encoder dans des algorithmes afin d’automatiser un large éventail de tâches. En définitive, les machines intelligentes les plus sophistiquées reposent sur l’imitation de la division du travail.

Charles Babbage joue un rôle central dans la thèse de Pasquinelli. Au début du XIX^e siècle, Babbage cherchait à remplacer le travail répétitif des «calculateurs» (généralement des femmes qui effectuaient divers calculs mathématiques à domicile et les envoyaient par courrier) par une machine automatisée à vapeur. Cet appareil, appelé «machine à différences», automatisait les calculs de logarithmes et produisait des tables logarithmiques dépourvues d’erreurs, qui étaient essentielles pour l’astronomie et l’hégémonie de l’Empire britannique. En bref, l’objectif était de mécaniser le «travail mental». Les deux principes qui guidaient les travaux de Babbage étaient: 1) la théorie de la machine fondée sur le travail, qui stipule que les machines remplacent une division du travail antérieure, et 2) le principe de la quantification du travail, ou principe de Babbage, qui stipule que la division du travail permet de calculer et d’acheter la quantité exacte de travail nécessaire. Ces idées de Babbage étaient déjà présentes dans l’œuvre d’Adam Smith, qui décrivait la division du travail par son célèbre exemple de la fabrication des épingles et suggérait que de nombreuses machines avaient été inventées en imitant l’organisation des tâches sur le lieu de travail (Smith, [1776] 2012). Dans l’esprit de Babbage, les machines à calculer étaient aussi des outils permettant de mesurer le travail, et d’en assurer la discipline et la surveillance.

Un autre auteur pertinent pour la thèse de Pasquinelli est Karl Marx, qui a remis en cause le déterminisme technologique en affirmant que les principaux moteurs du capitalisme étaient les travailleurs et la division du travail (Marx, [1867] 2013).

Les machines imitent et reproduisent le travail humain, ce qui a également un impact sur le progrès scientifique, selon Pasquinelli (p. 120), qui se veut catégorique:

Les fabricants d’outils et les opérateurs de machines savaient qu’ils participaient à l’invention de nouvelles techniques. Ce dont ils avaient rarement conscience, c’est qu’ils contribuaient aussi à de nouvelles découvertes scientifiques. Les nouvelles machines font naître des notions scientifiques et des changements de paradigmes plus souvent que la science n’invente de nouvelles techniques «d’en haut». Comme dans un exemple cité précédemment, c’est la machine à vapeur qui a donné naissance à la thermodynamique, et non l’inverse.

Pasquinelli affirme que les réseaux neuronaux artificiels n’imitent pas la physiologie du cerveau, comme on le suggère souvent, mais qu’ils sont plutôt une technique pour l’auto-organisation de l’information. En effet, la cybernétique est née de l’idée que l’information constitue un vecteur des rétroactions de l’environnement et de l’autorégulation interne. Ce point de vue s’inspirait de la conception de la biologie de Jakob von Uexküll au début du XX^e siècle, qui considérait l’organisme comme un système de traitement de l’information s’efforçant de s’adapter à son environnement. En réalité, le mot «cybernétique», inventé par Norbert Wiener, renvoyait à la capacité d’un système technique, social et vivant à se contrôler lui-même par un échange d’informations avec son environnement.

De l’avis de Pasquinelli, les cybernéticiens ont projeté sur leurs conceptualisations du cerveau et de la nature la composition technique de leur époque, faite de réseaux télégraphiques, de relais électromagnétiques, de systèmes de rétroaction et de scanners de télévision. De même, ils ont transposé à la nature des formes d’auto-organisation qui faisaient déjà partie de la division du travail et de l’organisation technique de la société.

Autrement dit, ce ne sont pas les technologies de l’information et de la communication qui remodèlent la société, comme on le prétend souvent, mais plutôt les rapports sociaux qui forgent de l’intérieur les réseaux de communication, les technologies de l’information et les réseaux cybernétiques.

Pasquinelli souligne l’importance de la thèse de Friedrich Hayek sur le connexionnisme et son influence sur le paradigme des réseaux neuronaux artificiels. Puis, dans le dernier chapitre, il analyse l’évolution du «perceptron» de Frank Rosenblatt, un réseau neuronal statistique destiné à la reconnaissance de formes, en relevant son influence sur l’apprentissage profond. L’auteur aborde les rivalités entre le paradigme de l’IA symbolique et l’IA connexionniste de la reconnaissance de formes, qui a finalement prévalu. Le «perceptron» de Rosenblatt s’inscrit également dans une généalogie plus large de l’automatisation du travail, ouvrant la voie à l’automatisation d’une forme différente de travail: le travail de perception, ou supervision. Il ne faut guère s’étonner que cette perception et cette supervision servent la discipline et l’autorité sur le lieu de travail. Selon Pasquelli (p. 297):

En définitive, l’IA n’est pas seulement un outil destiné à automatiser le travail, mais aussi à imposer des normes d’intelligence mécanique qui propagent, de façon plus ou moins invisible, des hiérarchies sociales de connaissances et de compétences. Comme pour toutes les formes précédentes d’automatisation, l’IA ne remplace pas simplement des travailleurs, mais les déplace et les restructure selon un nouvel ordre social.

La thèse de Pasquinelli donne matière à réflexion. Il n’est pas surprenant que la division du travail ait été une source d’inspiration pour les machines, l’automatisation et l’IA, même si toutes ces avancées ont évolué parallèlement aux efforts visant à améliorer les armes de guerre. Pasquinelli mentionne ce dernier point en passant, alors qu’il devrait être considéré comme un facteur aussi important que la division du travail dans le développement des technologies.

L’ouvrage de Pasquinelli s’inscrit dans un contre-discours, parce qu’il remet en question la vision dominante de l’IA et parce qu’il fait écho à de nombreuses préoccupations concernant son impact. On pourrait distinguer trois récits concurrents proposés par la littérature de science-fiction: celui de Frankenstein, celui de Čapek et celui d’Asimov.

Le récit dominant est celui de Frankenstein de Mary Shelley, publié pour la première fois en 1818. Apparemment, les créateurs de l’IA se sont pris pour des dieux en tentant d’imiter l’intelligence humaine générale, à l’instar du D^r Frankenstein. Leur création, l’IA, s’est rebellée et a semé le chaos en remplaçant des emplois, en pratiquant la discrimination par le biais d’algorithmes et en facilitant le «capitalisme de surveillance» (Zuboff, 2019).

Le récit de Karel Čapek dans sa pièce de théâtre de 1920, RUR (Rossum’s Universal Robots), est radicalement différent. Čapek a été le premier à utiliser le terme «robot», qui signifie en tchèque «esclave, serviteur». Dans sa pièce, les robots sont créés exclusivement pour travailler et remplacer les ouvriers, bien qu’ils finissent par se rebeller. Pasquinelli explique dans son livre que la tournure prise par l’histoire de l’IA repose précisément sur une idée qui perdure depuis l’époque de Babbage: imiter et mieux contrôler l’organisation du travail, discipliner les travailleurs, puis les remplacer.

Un récit intermédiaire est celui d’Isaac Asimov, qui a présenté ses trois lois de la robotique comme une tentative de contrer la vision pessimiste de Shelley et, surtout, de Čapek. Les robots sont des machines pouvant être utilisées pour le bien ou pour le mal, et les lois de la robotique proposées par Asimov (1990) visaient à démontrer qu’ils pouvaient être conçus pour ne pas causer de tort.

Comment devons-nous envisager l’avenir? Une solution serait de considérer la proposition d’Asimov sous un angle moins utopique. Comme le suggère Pasquinelli dans ses conclusions, des mesures politiques doivent être prises pour veiller à ce que la conception et le développement de l’IA tiennent compte des intérêts communautaires et collectifs.

En quoi Pasquinelli nous interpelle-t-il, nous, chercheurs en droit du travail? Sa thèse nous invite à réfléchir sous plusieurs angles. Premièrement, nous devons abandonner l’anthropomorphisme. Nous ne devons pas succomber au mirage et au slogan de la «singularité». Il y a plus de cent soixante-dix ans, Ada Lovelace rejetait déjà l’anthropomorphisme et, aujourd’hui, la propagande autour de la singularité ressemble à une stratégie marketing permettant aux entreprises technologiques d’accroître leur richesse et leur pouvoir (ibid.). L’IA est une technologie qui imite l’intelligence humaine, mais qui est très éloignée de toute notion de singularité (Cortina, 2024). Par conséquent, la responsabilité ultime de son utilisation doit incomber à quelqu’un, c’est-à-dire à un être humain (Bertolini, 2022).

Deuxièmement, il convient d’accorder davantage de confiance aux mécanismes juridiques. L’IA ne fonctionne pas toute seule: elle a été créée dans un contexte social, avec une intention précise (consciente ou inconsciente), fondée sur la division du travail. Il existe une grande différence entre le fait d’utiliser un système intelligent et celui de confier à un tel système des décisions cruciales pour la vie des personnes (Cortina, 2024).

La rhétorique d’une «singularité» imminente de l’IA et d’un changement de paradigme incite à croire que tout doit changer et que les structures établies, telles que le droit du travail traditionnel, ne sont plus valables. Chaque époque exige que le droit s’adapte, mais il ne faut pas pour autant se sentir impuissant et anxieux face à ces phénomènes. Tout comme la peur peut causer des ravages dans les démocraties, le discours sur le changement de paradigme et le rejet des mécanismes juridiques jugés obsolètes peuvent entraver la recherche du dynamisme nécessaire pour répondre efficacement au changement.

L’économie des plateformes numériques en est un bon exemple. Lorsque le travail via des plateformes a fait son apparition, il semblait annoncer l’essor d’un nouveau type de travailleur évoluant en dehors des cadres institutionnels et juridiques. Cependant, le principe de la primauté de la réalité (Gamonal et Rosado Marzán, 2019) a constitué un bon point de départ pour régler la question de la classification des chauffeurs à partir d’un cadre juridique existant (Kocher, 2022). Je ne veux pas dire que les catégories juridiques ne doivent pas évoluer, mais que les discours apocalyptiques doivent être mis de côté, et que les progrès incroyables de l’IA doivent être évalués selon leurs propres termes. Pasquinelli contribue à lever le voile de la magie qui entoure l’IA et à promouvoir des propositions réglementaires en matière d’IA ancrées dans les mécanismes traditionnels du droit du travail, tout comme le fait De Stefano (2019) pour la négociation collective, le dialogue social et les algorithmes.

Les discussions sur les nouvelles technologies et leur impact sur le monde du travail sont un thème récurrent dans l’histoire du droit du travail. Cette question ne doit donc pas être abordée dans une optique de refonte totale ou à partir d’une page blanche. Au contraire, il est nécessaire de s’éloigner des discours apocalyptiques et d’adapter les mécanismes juridiques existants à la nouvelle réalité, en s’appuyant sur les débats et les idées développés au cours des périodes antérieures du droit du travail (Cherry, 2019).

Troisièmement, le débat ne doit pas se concentrer uniquement sur les aspects techniques, mais également sur la sphère politique. Nous avons tendance à oublier l’importance du pouvoir (Gamonal, 2024). Pasquinelli souligne que l’IA est une question politique et que nous devons élaborer «une politique en matière d’IA» qui favorise le bien commun. Plusieurs auteurs font valoir que les technologies devraient être conçues pour répondre aux besoins humains (Acemoglu et Johnson, 2024; Albin, 2024). De plus, au XX^e siècle, on trouve des exemples d’alternatives qui ont remis en cause le déterminisme technologique sur le lieu de travail (Honneth, 2024). Cependant, pour Pasquinelli, il ne s’agit pas seulement d’un idéal visant à réorienter une trajectoire, mais d’une nécessité de corriger celle qui a été planifiée depuis l’époque de Babbage. Nous devons suivre les conseils de Pasquinelli et d’Asimov et laisser derrière nous le déterminisme technologique qui nous transforme en spectateurs impuissants face à ses avancées et à ses ravages.

Notes

1. Au début du XIX^e siècle en Angleterre, le terme computer désignait les employés de bureau, généralement des femmes, qui effectuaient à la main de laborieux calculs mathématiques (p. 75 de la version française). ⮭