La face cachée de l’intelligence artificielle : comment les forçats du clic font fonctionner les robots
Propos recueillis par Nidal Taibi.
Dans son ouvrage “En attendant les robots”, le sociologue Antonio Casilli enquête sur le travail du clic, l’autre versant de l’intelligence artificielle, et remet en question la thèse du “grand remplacement” de l’homme par les robots dans le monde du travail. Entretien.
Les premières inventions de la révolution industrielle au XIXe siècle ont témoigné de l’émergence d’un climat de panique généralisé chez les travailleurs, qui ont longtemps vécu sous la crainte d’un “grand remplacement” de l’homme-travailleur par les machines. A l’ère des technologies numériques, cette crainte se voit désormais dirigée à l’encontre des robots, qui seraient en train de supplanter les hommes dans le monde du travail.Cette analyse est devenue si hégémonique qu’elle est défendue—dans les champs médiatique ou politique—non seulement par les chantres du néolibéralisme mais également par quelques personnalités qui se veulent attachées à la justice sociale et aux acquis sociaux. Tel est le cas, par exemple, du candidat socialiste à la présidentielle de 2017, Benoît Hamon, qui avait établi son programme sur l’hypothèse de la substitution des robots aux hommes dans le monde du travail ; d’où la proposition axiale de son programme qu’était celle du revenu universel.
Pour Antonio Casilli, sociologue, enseignant-chercheur à Télécom ParisTech et chercheur associé au LACI-IIAC de l’EHESS, l’automation intégrale des machines est une arlésienne, promise depuis plusieurs décennies, voire siècles. Mais derrière les automates se cachent des millions de forçats du clic, rémunérés, dans certains cas, à moins d’un centime par clic, et sans lesquels les appareils guidés par l’”intelligence artificielle” ne pourraient jamais fonctionner. A cette analyse qu’il documente dans son ouvrage En attendant les robots(Seuil), le sociologue propose des pistes de solution à cette nouvelle forme de précarisation, poussée à l’extrême. Il revendique ainsi la nature politique de son travail. Entretien.
Qu’entendez-vous exactement par l’expression du titre de votre ouvrage, “en attendant les robots”?
Antonio Casilli – Le titre de l’ouvrage est une allusion à la pièce de théâtre de Samuel Beckett En attendant Godot. L’idée du dramaturge, que je reprends ici, est de véhiculer une sensation d’attente d’une entité transcendante, surnaturelle, qui finalement ne se manifeste jamais. Quand on prête attention au discours et à la mythologie concernant les robots, ceux-ci promettent toujours des choses qui n’arrivent jamais: cela fait plus de deux siècles qu’on ne cesse d’entendre que le travail humain disparaîtrait, que l’être humain serait condamné à l’oisiveté totale à cause de son remplacement par les robots, etc. Or, force est de constater que les transformations ne se manifestent pas dans les termes de ces différentes prophéties. Je voudrais aussi souligner que le noyau de cette expression est le terme “robot”, que j’utilise selon une acception précise. D’habitude, quand on parle de robots on pense automatiquement à des machines anthropomorphiques, telles qu’elles sont représentées dans les films de science-fiction ou dans l’iconographie de l’intelligence artificielle. Ici, je parle de «robot» en tant que machine intelligente et communicante, donc surtout en tant que machine de l’intelligence artificielle. Précisément, quand je parle de robots, je parle des data,de leurs valeurs, de leurs modalités d’extraction et de production, et de leur utilisation aussi bien à des fins de ciblage publicitaire qu’à des fins d’automatisation, c’est-à-dire comment elles sont utilisées pour entraîner et pour calibrer les machines de l’intelligence artificielle.
Vous entendez par là que l’intelligence artificielle n’est finalement pas si artificielle qu’on le laisse entendre?
Je démontre en effet dans le livre que l’intelligence artificielle ne l’est pas vraiment dans la mesure où elle est faite à la main, ou plutôt au doigt. D’où l’usage du terme digital labor,qu’on utilise pour la caractériser et qui fait référence au travail du clic nécessaire pour faire fonctionner l’intelligence artificielle.Il faut souligner aussi que lien entre “intelligence artificielle” et “robot” est l’automation, qui sert à véhiculer l’idée selon laquelle les machines sont capables de penser. C’est cela justement le pari des scientifiques et des investisseurs qui se nourrissent de cet espoir. Parfois les entreprises trichent en quelque sorte dans le sens où elles essayent de vendre du rêve aux investisseurs. Pour cela, ils mettent en place de la “fautomation”, c’est-à-dire de la fausse automation, ou de l’intelligence artificielle qui est artificielle, qui consiste à injecter du travail humain invisibilisé, et qu’on évite d’appeler travail, qu’on divise en une multitude de micro-tâches et qu’on ne rémunère pas ou trop peu. A proprement parler, il n’y a pas d’artifice dans ces machines.
Pour qualifier ce phénomène du travail du clic, vous préférez utiliser le terme de plateformisation. Pourquoi insistez-vous sur le choix de ce terme?
Je considère en effet que le terme plateformisation permet de bien définir le processus historique qui se cache derrière la soi-disant automation. Très souvent, quand on annonce l’automatisation d’un processus métier, en réalité, on ne fait que le plateformiser, c’est-à-dire qu’on le délègue à une plateforme qui réalloue ces mêmes processus mais sous une forme fragmentée en tâches destinées à une myriade de tâcherons du clic.Le terme plateformisation permet également de pointer un changement radical par rapport aux cadres du travail dans l’entreprise, et dans le marché d’un point de vue général. La plateforme, en tant que paradigme technologique et économique, est une nouveauté dans le sens où le travailleur renégocie constamment les règles, les rémunérations, la quantité de travail, en bref: toutes les conditions de travail. Dans une entreprise, la confrontation entre employeur et salariés s’interrompt, du moins pour un temps, avec le contrat de travail. Dans les plateformes, cette stabilité disparaît et les négociations ne s’interrompent jamais.
Le terme plateforme pousse à imaginer une structure horizontale, régie par un fonctionnement démocratique. Vous défendez dans l’ouvrage que c’est le contraire qui s’y passe…
Je me réfère sur ce point aux travaux de Tarleton Gillespie [Professeur au département de communication à l’Université de Cornell, NDLR]. Il insiste sur le fait que le terme plateforme et la rhétorique dont il fait l’objet impliquent la platitude et l’horizontalité, alors qu’en réalité les plateformes sont des structures verticales et très hiérarchisées. Pensez par exemple à Amazon: l’entreprise se présente comme une plateforme d’e-commerce et de Cloud, alors qu’on yretrouve les formes les plus radicales de verticalité dans la gestion du personnel, ce qui pousse au burn-out et à d’autres formes d’épuisement professionnel. Cela se voit plus clairement dans l’organisation du travail dans les entrepôts de l’entreprise, où on assiste à des hiérarchies tayloristes.Cette logique est poussée à l’extrême particulièrement dans la branche Amazon Mechanical Turk, qui est une plateforme de micro-travail où on retrouve la verticalité la plus totale, alors qu’on essaye de donner l’impression de faire participer tout le monde au même projet. Au contraire, c’est un structure qui fait l’intermédiaire entre des entreprises qui offrent des tâches et des tâcherons du clic qui les exécutent.
L’origine du nom de la plateforme Amazon Mechanical Turk a une histoire bien particulière, qui en dit sans doute long sur son esprit. Pourriez-vous nous la rappeler?
Le nom est emprunté au Turc mécanique, qui est un automate du XVIIIe siècle. Il avait rempli le rôle d’un joueur d’échec déguisé en Turc ,ottoman, et qui était censé être la première intelligence artificielle dans l’histoire. C’était un robot qui défiait des joueurs d’échec humains, et le but était de simuler les processus cognitives humains. Or, il s’agissait d’un simple canular: à l’intérieur de l’automate se cachait un être humain.Cette métaphore a été reprise au premier degré par Jeff Bezos [fondateur et directeur-président général d’Amazon, NDLR] quand il a lancé en2005 ce service d’Amazon Mechanical Turc, qui est un service d’externalisation du travail à la tâche. C’est une sorte d’Uber ou de Deliveroo mais poussé à l’extrême: le requérant paye quelques centimes pour l’exécution de petites tâches: traiter des textes, taguer des vidéos, etc. Ces petites tâches participent à entraîner des processus automatiques de l’intelligence artificielle. D’où la définition que Bezos a proposé pour présenter son service: “une intelligence artificielle artificielle”. Parce que finalement il s’agit d’une intelligence artificielle où le calcul est exécuté par les êtres humains.
Il paraît curieux que Amazon ait repris et revendique le nom d’un canular. A votre avis, pourquoi l’entreprise reprend ce nom alors que ce n’est pas forcément quelque chose de glorieux ni de valorisant ?
D’un certain point de vue, Amazon est sûr de ne pas subir les conséquences de cette initiative. Mais il faut aussi souligner un changement qui a eu lieu au sein d’Amazon Mechanical Turc entre le moment où la plateforme a été lancée et aujourd’hui: on s’est rendu qu’on peut vendre ce service aux entreprises d’une manière, dirais-je, un peu plus “noble”. L’idée est d’avouer qu’on n’est pas encore véritablement entré dans l’ère de l’intelligence artificielle tout en promettant qu’on s’y dirige.Il s’agit d’une nouvelle rhétorique qui s’est imposée à partir des années 2010. Elle consiste à dire “oui, aujourd’hui on n’est pas dans l’automation complète. Mais attendez, ça va arriver”.
Tandis que le sociologue que vous êtes estime que cela ne va pas arriver?
Je viens d’un pays, l’Italie, où on avait un fameux dicton qui dit “la révolution c’est pas pour aujourd’hui, mais peut-être pour demain, et certainement pour après-demain”. Ce qui n’est qu’une manière de procrastiner.On retrouve la même idée dans la rhétorique entourant l’automation. Cela est par excellence la définition marxiste de l’aliénation. A savoir la promesse d’un futur transcendant meilleur, qu’il soit d’ordre religieux, politique ou technologique. Ainsi, on étrangle toute tentative de changement de la situation dans le présent. C’est ce que je développe dans la dernière partie de mon livre où je démontre que ce genre de travail manque de reconnaissance, et que là les syndicats ont un rôle à jouer. C’est pour ça que j’appelle à la grande méfiance vis-à-vis du discours des artificiers de l’intelligence artificielle qui essayent de faire croire à ces travailleurs que leur travail est voué à disparaître et à être complètement remplacé par l’automation. Ce qui sous-entend: “votre travail est éphémère et vous n’avez aucun intérêt à vous organiser à moyen ou à long terme”.Je peux ajouter un exemple d’actualité: Amazon vient de lancer, en 2019, Amazon scout, qui est un robot présenté comme automatique et censé assurer la livraison des colis. Or ce sont des robots dirigés par ce qu’on appelle des “overseers”, c’est-à-dire des gardiens du qui accompagnent le robot dans son fonctionnement. Amazon se défend sur ce point en disant que le besoin de ces “overseers” n’est que temporaire. Mais en réalité, ils tiennent le même discours depuis plusieurs années.
Dans ces conditions de travail particulières, vous défendez que l’exploitation des travailleurs prend de nouvelles formes, plus radicales. Pourriez-vous nous les présenter?
Il y a plusieurs manières d’approcher l’exploitation dans ce contexte. Dans mon cadrage théorique, par exploitation j’entends surtout le travail dans des conditions qui ne sont pas formalisées et où les travailleurs ne sont pas rémunérés de manière adéquate.Il existe aussi d’autres formes d’exploitation qui renvoient à—selon l’expression de certains—de nouvelles formes de colonialisme. Pour ma part, je préfère parler d’immigration à distance. Je pense à la délocalisation de certains processus métiers dans des pays tiers en voie de développement, où le salaire est très faible. Il faut souligner que pour la même tâche réalisée en France ou à Madagascar, le prix est incomparable: dans le premier cas la rémunération peut atteindre quelques dizaines de centimes, voire quelques euros, dans le second on est à moins d’un centime par tâche.La troisième forme d’exploitation, qui est plus occulte et plus difficile à voir, est celle du travail gratuit. Il faut savoir que chaque utilisateur lambda des médias sociaux ou les plateformes, en créant des données (par exemple en taguant sur des photos, en notant ou en commentant un article qu’il a acheté, etc.) crée de la valeur. Cette valeur est ensuite captée, gratuitement, par ces entreprises.
Sur ce point, il existe une controverse entre universitaires : entre, d’une part, les “travaillistes”, qui considèrent les activités que vous venez de citer comme du travail, et, d’autre part, les “hédonistes”, qui les considèrent plutôt comme une activité ludique. Pourriez-vous nous préciser ces deux approches ?
Les premiers appréhendent la participation sur les médias sociaux comme une relation sociale relevant du travail et caractérisent l’appropriation par les grandes plateformes de la valeur qui en résulte comme un rapport d’exploitation. Quant aux seconds, ils interprètent la production de ces contenus comme l’expression d’une quête de plaisir et une participation librement consentie à une nouvelle culture de l’amateurisme, et, par là, nient la pertinence même de la notion de digital labor. A vrai dire, ce clivage est assez simpliste et j’essaye dans mon livre de le dépasser; mais disons que ma position est plutôt du côté travailliste puisqu’après tout, c’est du travail que s’efforce de réaliser l’usager dans ces circonstances, ne serait-ce que par l’effort cognitif qu’il engage …
Cela nous amène au cœur de votre démarche. Votre travail ne se limite pas à présenter des constats mais défend également des points de vue, argumente des choix politiques, propose des solutions.C’est un parti pris délibéré ?
Effectivement, c’est un ouvrage sociologique et politique aussi. Il faut se méfier des travaux sociologiques qui présentent des conclusions sous des allures de neutralité. Dans la mienne, intitulée “Que faire?”, je propose explicitement plusieurs pistes de solution, telles que l’inscription du digital labor dans l’orbite du salariat avec l’appui des syndicats, le “coopérativsme de plateforme”comme le propose Trebor Scholz dans son livre-manifesteou encore l’élaboration d’une gouvernance commune sur les données.
Antonio Casilli, En attendant les robots. Enquête sur le travail du clic, Seuil, 2019.