Le site web Digital Society Forum accueille deux compte-rendus de mon ouvrage En attendant les robots (Seuil, 2019), signés respectivement par la journaliste Claire Richard et l’expert d’innovation Irénée Régnauld.
Et si l’IA n’existait pas ?
Irénée Régnauld
Sheep Pain Facial Expression Scale (SPFES) est un outil élaboré en 2016 par le docteur Krista McLennan de l’Université de Cambridge. « Les chercheurs ont nourri l'intelligence artificielle avec 500 photos de moutons et lui ont appris à mesurer la souffrance en analysant la position de la bouche, le plissement des yeux, l'inclinaison des oreilles et tous les autres éléments susceptibles de traduire un mal-être. » La douleur est reconnue dans 80% des cas et permet d’établir des diagnostics précoces en vue de soigner les pauvres bêtes. Voilà qui fait avancer la science, même si l’histoire ne dit pas si ce sont des travailleurs sous payés en Asie du Sud-Est qui ont tagué les photos d’ovins. Le dernier ouvrage d’Antonio Casilli, En attendant les robots, enquête sur le travail du clic (Seuil), a défrayé la chronique. La thèse : l’intelligence artificielle repose sur le travail manuel de millions de travailleurs précaires qui trient, annotent et commentent les données nécessaires à son bon fonctionnement. De là à affirmer que l’intelligence artificielle n’existe pas, il n’y a qu’un pas, qu’il est tentant de franchir ici. Juste pour voir.
La semaine de l’intelligence artificielle a une drôle de tête : le lundi, elle va nous remplacer ; le mardi, elle va créer des emplois ; le mercredi, elle nous dépasse de nouveau ; mais heureusement, elle nous augmente le jeudi (ouf !). Et ainsi de suite jusqu’à ce que nous nous persuadions qu’elle est une personne avec sa volonté propre, une bonne copine ou notre pire ennemie, selon le jour, nos convictions ou notre position dans la société. En fait, nous la connaissons plutôt mal. Nous n’en n’avons pas toutes les clés, et c’est là que Casilli apporte un éclairage supplémentaire. C’est en sociologue de terrain qu’il est allé soulever le capot des intelligences artificielles qui prennent place dans nos smartphones, nos maisons et nos automobiles. Derrière ces IA aux airs schizophrènes, une autre réalité couve : des travailleurs précaires, essentiellement en Asie et en Afrique. Des petites mains qui taguent, annotent et commentent les images que « voient » les véhicules autonomes. Des petits doigts qui cliquent pour censurer les vidéos de décapitation sur YouTube et Facebook afin de nous éviter d’avoir à tomber dessus par un malencontreux hasard algorithmique. L’IA ne s’incarne donc pas en une unique personne virtuelle aux multiples interfaces, à la façon de l’OS du film Her de Spike Jonze, mais en des millions (de chair et d’os), qui travaillent dans l’ombre des mines de la modération, et qui ne sont pas cher payées.
Si l’on suite de plus près le fil “casillien”, l’intelligence artificielle est un mode d’organisation du travail. Un rapport d’exploitation qui modèle nos sociétés à son image. Non seulement nos intelligences artificielles sont « artificielles », mais elles embarquent toute une vision du monde et du travail. Cela pourrait tenir en deux étapes. Étape 1 : réduire tous les emplois en petites tâches compréhensibles par une machine. Étape 2 : dissoudre le travail dans les machines. C’est le même processus qui aurait mis les ouvriers derrière les machines, ou les clients devant les distributeurs de billets plutôt que face aux guichetiers. Pour Casilli, et comme il l’explique à Libération, l’objectif de cette IA est de « discipliner la force de travail », de calmer ses ardeurs en lui rappelant que si elle en demande trop, on l’automatisera. Automatisation qui relève selon lui d’un mythe : les distributeurs de billets n’ont pas remplacé les guichetiers, rappelle-t-il en début d’ouvrage. En d’autres termes, l’intelligence artificielle ne détruirait pas le travail, mais ne ferait qu’en déplacer les modèles et modalités.
Une thèse qui ne fait pas l’unanimité mais que partage l’activiste Astra Taylor (@astradisastra), pas loin elle non plus de nous dire que l’automatisation est une farce. En témoigne sa charade de l’automatisation où elle explique que la soi-disant obsolescence de l’homme a souvent servi de prétexte pour réduire en cendre les revendications des salariés. Ce fut le cas en 2013 lors du mouvement « Fight for 15$ », au cours duquel les salariés des fast-foods américains demandèrent une revalorisation salariale. De son côté, l’ancien PDG de Mac Donald les menaçait subtilement d’automatisation. Ce qui ne manqua pas d’arriver quelques mois plus tard quand la grande chaîne de fast-food introduisit les bornes digitales en libre service dans ses restaurants. Seulement voilà, le travail des salariés n’a pas disparu. Les clients se chargent de sélectionner leurs menus (ce sont maintenant eux qui travaillent, dirait Casilli). Les employés de la chaîne, quant à eux, préparent les commandes. « Macdo » les embauche encore, le travail aurait juste, de nouveau, été déplacé. Le fond de l’affaire serait psychologique : il s’agirait de faire croire à n’importe quel travailleur qu’il est potentiellement automatisable. Astra Taylor invente un terme pour exprimer cette peur de l’automatisation qui n’arrive jamais : « Fauxtomation ». La fauxtomation, c’est le « en attendant les robots » de Casilli. Une épée de Damoclès technologique. Un horizon menaçant dont le seul objet serait de reproduire les structures en place. De nouveau, il n’y a pas d’automatisation, il y a juste des rapports de force.
Ces deux pensées font écho à ce que le philosophe allemand Günther Anders (1902-1992) appelait la « honte prométhéenne » : ce sentiment de faiblesse qui s’empare de l’homme quand celui-ci compare sa condition biologique à la toute puissance de la machine. Mais quand on y réfléchit, cette honte ne mène à rien, car le match est truqué. Il n’y a aucune raison d’être honteux face à une machine, pas plus que face à un casse-noix qui lui, casse des noix bien plus vite et mieux que nous. Nous ne sommes pas non plus honteux face aux mouches (qui volent, elles), ou devant les lapins (qui copulent cent fois plus). Pour le dire autrement, Casilli, Taylor et Anders analysent la technologie selon un prisme nouveau, mais celui-ci n’épuise pas les nombreuses interprétations disponibles sur le marché des idées.
Et c’est là toute la difficulté. Si on la dilue dans les rapports de domination qui la sous-tendent, alors l’intelligence artificielle disparaît à leur profit. On ne voit plus que ce qu’on ne voyait pas avant : des travailleurs pauvres dans des pays lointains. Mais il reste que, du point de vue du développeur, l’intelligence artificielle est un programme qu’il souhaite mettre au service de ceci ou de cela, sans nécessairement désirer un déclassement généralisé de la population. Du point de vue de l’historien des sciences, l’intelligence artificielle sera un assemblage de techniques, d’inventeurs et de faits sociaux qui ont conduit à son premier véritable essor au sortir de la Seconde Guerre mondiale. Du point de vue du badaud qui traduit un texte dans une langue étrangère, elle sera une aide précieuse. Du point de vue de l’entrepreneur, un relais de croissance. Et ainsi de suite. Tous ces points de vues sont réels. D’où ce paradoxe : si l’une de ces visions ne saurait remplacer toutes les autres, leur coexistence ne devrait pas non plus diluer le tout dans un relativisme inopérant. Ou plus grave, dans une tétanie annihilant toute action ou réflexion pour le mieux plutôt que le pire.
Derrière les promesses de l’intelligence artificielle, le cauchemar du “digital labor”
Claire Richard.
Un spectre hante l’intelligence artificielle, c’est le digital labor. Le dernier livre du sociologue Antonio Casilli , spécialiste des réseaux sociaux et des mutations du travail à l’ère numérique, dresse un panorama sombre des nouvelles formes de travail déconsidéré ou invisible apparues avec l’essor des plateformes et de l’automatisation.
En attendant les robots
(Seuil), Le nouveau livre d’Antonio Casilli s’ouvre sur une histoire
édifiante. Simon (c’est un nom d’emprunt) est embauché dans une start-up
qui promet une solution d’intelligence artificielle pour proposer des
offres personnalisées à des clients de luxe. Peu de temps après son
arrivée, à la machine à café, il demande à un collègue pourquoi la boîte
n’a pas embauché de data scientist, si son cœur de métier est l’IA.
Parce qu’il n’y a pas d’IA, s’entend-il répondre. La personnalisation
des offres, ce sont des humains qui la font : des travailleurs à
Madagascar – et de temps en temps les stagiaires.
Le « secret » des intelligences artificielles ? Les humains
On l’aura compris : le titre de l’ouvrage, En attendant les robots,
et sa référence à Beckett, est ironique. Car Antonio Casilli ne croit
pas au « grand remplacement technologique », le spectre de la
disparition des emplois à cause de l’intelligence artificielle, agité
tant par des chercheurs (on se souvient de la fracassante étude d’Oxford annonçant que 47% des emplois disparaîtraient avec l’automatisation) que des éditorialistes et des entrepreneurs.
En réalité, explique le chercheur, les solutions d’intelligence
artificielle actuellement disponibles sur le marché ne peuvent se passer
d’humains. Même en laissant de côté les supercheries comme celle citée
plus haut, les exemples sont légions : systèmes de modération de
contenus vérifiés largement par des humains (comme chez YouTube),
opérateurs vérifiant les appariement proposés par des machines (comme
chez Amazon), assistants virtuels intelligents reposant largement sur
des humains (comme l’assistant virtuel de Facebook « M », retiré de la
circulation depuis) ou encore voitures autonomes assistées par des
opérateurs chargés d’analyser le données récoltées par le système (comme
chez Uber, où un chef de projet, ancien chef de projet de Google Street
View, a décrit lesdits opérateurs comme des « robots humains »).
« Ce ne sont pas les machines qui font le travail des hommes, mais les hommes qui sont poussés à réaliser un digital labor pour les machines en les accompagnant, en les invitant, en les entraînant », résume le chercheur.
Les intelligences artificielles doivent toujours être paramétrées,
entraînées et encore très largement supervisées par des humains, malgré
les progrès des méthodes d’apprentissage non supervisés. Les progrès
fulgurants des IA ces dernières années sont surtout dus à l’explosion
des quantités de données d’entraînement : or celles-ci doivent être
triées, annotées, préparées par des humains. Et enfin, ces programmes
doivent être évalués et corrigés pour pouvoir s’améliorer. Ainsi, les
utilisateurs vont utiliser pendant plusieurs années une version beta du
service Gmail de Google, pour l’améliorer, ou tagger leurs amis sur des
photos et contribuer ainsi sans nécessairement en avoir conscience à
l’affinement du service de reconnaissance faciale de Facebook : « C’est
un travail humble et discret, qui fait de nous, contemporains, à la fois
les dresseurs, les manouvriers et les agents d’entretien de ces
équipements. »
La question que pose l’intelligence artificielle et
l’automatisation, ce n’est donc pas celle de la menace sur l’emploi –
mais celle de la transformation profonde du travail pour répondre aux
besoins de la machine.
Un travail invisible
Ces nouvelles formes de travail, Antonio Casilli les range dans la catégorie du digital labor.
Littéralement « travail numérique », le terme désigne l’ensemble des
nouvelles formes de tâches que nécessite l’économie des plateformes
numériques — que ces tâches soient ou non (et c’est un point crucial)
reconnues comme du travail. Le digital labor, la plupart du
temps, est invisible. Parce qu’une large part se déroule dans les pays
du Sud, à la périphérie de la conscience des pays du Nord. Et surtout
parce que les plateformes refusent de le considérer comme travail :
elles se décrivent comme des services, des intermédiaires mettant en
relation des groupes d’usagers différents, des espaces de publication ou
des marchés – mais jamais comme des employeurs. Pourtant, dit Antonio
Casilli, c’est faux. Elles font bien appel à du travail immatériel mais
soit elles le délocalisent, soit elles le rendent invisibile, soit elles
le font passer pour des activités ludiques. Quoi qu’il en soit,
écrit-il, il existe « un continuum entre activités non rémunérées,
activités sous-payées et activités rémunérées de manière flexible. »
Tâcherons, salariés déguisés et utilisateurs dupés : les visages du digital labor
Antonio Casilli décrit surtout des cas assez connus (les chauffeurs
Uber, les travailleurs à la tâche payés quelques centimes de la
plateforme Mechanical Turk, et les usagers de Facebook), et on n’y
trouvera pas de révélations factuelles fracassantes – même si on apprend
au détour d’une page que Google emploie des humains pour vérifier les résultats de son moteur de recherche, qu’Uber embauche des opérateurs
pour assister ses voitures automatiques , que Twitter vend désormais
les données de ses utilisateurs à des fins publicitaires mais aussi à
des entreprises de solution de machine learning, comme IBM, Oracle ou
Salesforce, ou encore que les détenus chinois ou russes sont parfois
forcés de travailler à produire des vidéos YouTube ou des contenus web,
monétisés par les prisons).
Mais l’enquête n’est pas le propos du livre : l’auteur se propose surtout de brosser un panorama des différentes formes de digital labor.
Il décrit d’abord le monde du « microtravail » : les toutes petites
tâches proposées sur des plateformes comme Mechanical Turk, Freelancer
ou Upwork, sur lesquelles n’importe qui peut s’inscrire et offrir ses
services pour des sommes avoisinant souvent les dizaines de centimes.
Ces « micro-tâches » sont diverses : filtrer des contenus sur les
plateformes, traduire des mots ou des groupe de mots pour développer des
services de traduction « intelligents », identifier des éléments sur
une image pour améliorer un service de géolocalisation, enregistrer des
bribes de conversations ou les transcrire pour développer des assistants
vocaux, vérifier les résultats d’un moteur de recherche ou passer
derrière des algorithmes de filtrage… Elles ont en commun d’être
infimes, répétitives, peu qualifiées, et peu ou pas payées.
Viennent ensuite les travailleurs à la demande, les usagers de
plateformes de travail comme Uber, Foodora, Deliveroo. Ils utilisent le
service de la plateforme, qui prélève une commission sur les échanges,
mais ce n’est pas leur seule contribution. Ils produisent des données
personnelles diverses et les qualifient (quand un chauffeur note son
passager ou son passager un chauffeur) — celles-ci peuvent alors
également être vendues ou utilisées pour améliorer l’algorithme.
Ce qui fait plus débat concerne le troisième cas, celui des
contributions non payées : les posts, les commentaires, les messages,
les évaluations, les partages… Pour certains, ce sont des marques de la
culture web, de la sociabilité, de l’expression… et pour d’autres, dont
Antonio Casilli, du travail gratuit. La plateforme tire une valeur
réelle, et monétisée, des activités et des données des usagers. Elle
capte et exploite la valeur générée par ces activités, ces données – qui
peuvent être vendues ou utilisées pour entraîner des algorithmes, par
exemple. Mais les usagers ne touchent aucune rétribution, en dépit du
fait que leur activité génère de la valeur et est indispensable au
fonctionnement économique du site et constitue donc une forme de
travail. On peut citer le fait, par exemple, que les influenceurs sont
rémunérés pour leur posts, ou encore que, parmi la minorité d’usagers
très actifs sur une plateforme, une portion non négligeable espère se
professionnaliser (ce que des sociologues ont décrit comme le « hope
labor », le travail de l’espoir).
Certains exemples sont plus convaincants que d’autres : forcer les
internautes à identifier des images pour accéder à des contenus, comme
avec le système ReCAPTCHA, semble clairement relever du travail gratuit.
Poster ou partager un post qui nous tient à cœur entre dans une
catégorie plus difficile à cerner. En réponse à ces critiques, Antonio
Casilli rappelle que la notion de travail est le produit de luttes de
définition et de luttes sociales. Ainsi, le féminisme a fait émerger la
notion de « travail domestique » puis de travail de care, pour désigner
des activités qui étaient jusqu’alors considérées comme allant de soi.
Extension du travail précaire sous couvert de liberté
Ce digital labor est donc extrêmement répandu en ligne. Il
témoigne, explique le chercheur, de deux tendances à l’œuvre dans un
champ plus large que le numérique : la mise au travail de pans
croissants de notre réalité d’une part (puisque nos technologies de
communication nous permettent d’être joignable et productifs partout et
tout le temps, et puisque toutes nos données peuvent être
potentiellement génératrices de valeur), l’érosion du modèle du salariat
d’autre part. Or le salariat est fondé sur un pacte entre l’entreprise
et le salarié : en échange de sa subordination, l’entreprise lui fournit
une certaine protection sociale. Aujourd’hui quand elles refusent
d’être considérées comme des employeurs (même si la justice ne leur
donne pas toujours raison), les plateformes mettent à mal ce pacte et
participent à une tendance vers des travailleurs toujours plus isolés et
aux droits restreints : elles concluent, dit Antonio Casilli « un pacte
oxymorique » avec le travailleurs, « en les mettant à la fois au
travail et hors travail ».
Les plateformes mettent en avant la liberté du travail indépendant,
la possibilité d’être entrepreneur de soi-même sans avoir à se plier aux
règles hiérarchiques. « Idéalement, sur les plateformes et dans leurs
écosystèmes, tout individu est une start-up », résume le chercheur.
Cet imaginaire largement libertarien irrigue profondément la culture du web depuis ses débuts
et s’incarne, par exemple, dans la figure du hacker ou de
l’entrepreneur nomade, du passionné qui s’accomplit dans un « projet
professionnel qui est aussi existentiel ». Mais Antonio Casilli note
combien cette vision est élitiste et ne prend pas en compte l’asymétrie
des forces dans un marché du travail en berne où le chômage est élevé et
l’ascenseur social en panne, dans un passage qu’on a envie de citer en
entier :
« Aucune place, dans cette définition, pour la routine des
microtravailleurs de Clickworker, l’épuisement des livreurs de Foodora
ou la confusion des poinçonneurs de ReCAPTCHA transcrivant des mots
machinalement pour entraîner des systèmes de vision par ordinateur.
Cette approche passe donc sous silence les perdants de la transformation
numérique : ceux dont l’extrême flexibilité n’est pas un choix de vie
et dont le digital labor à la chaîne peut difficilement être
considéré comme un vecteur de réalisation de soi. Les entrepreneurs
d’eux-même que célèbre le discours d’accompagnement des plateformes
laissent une fois de plus dans l’ombre les digital laborers,
souffrant de la vacuité et du caractère répétitif de leurs tâches ou
anesthésiés par la ludification de leurs usages. La « soif de liberté »
n’est certainement pas moins grande que celle des slashers, co-workers,
lanceurs de start-up et autres « précaires entreprenants » qui se vivent
comme des fugueurs de la condition salariale, mais elle n’a
manifestement pas plus de chance d’être étanchée que leur quête de
stabilité dans l’emploi d’être atteinte. »
En l’absence de régulation, le digital labor préfigure le
pire du travail : un monde de travailleurs isolés, privés de droits
sociaux et iolés les uns des autres, livrés aux conditions léonines des
employeurs — et accomplissant des tâches standardisées, fragmentées, peu
qualifiées et dépourvues de sens global. Ici et là, des tentatives de régulation ou de création de plateformes équitables
sont en cours. Il est urgent de les soutenir, si l’on ne veut pas que
le développement croissant de l’automatisation ne soit synonyme non
d’une disparition du travail, mais de sa dégradation irrémédiable.