A l’occasion de mon passage à Future En Seine 2017 pour parler micro-travail et intelligences artificielles, je viens d’accorder un entretien à I’MTech, le site d’information sur le numérique et l’innovation de l’Institut Mines-Télécom. La version en français est accessible ici. Celle en anglais, par ici.
Quèsaco le digital labor ?
Sommes-nous tous des ouvriers des plateformes numériques ? C’est la question que pose un nouveau champ de recherche : le digital labor. En utilisant nos données personnelles, les entreprises du web créent une valeur considérable. Mais quelle rétribution en tirons-nous ? Antonio Casilli, chercheur à Télécom ParisTech et spécialiste du digital labor, donnera le 10 juin prochain une conférence sur le sujet lors de Futur en Seine, à Paris. À cette occasion, il décortique pour nous les raisons du déséquilibre entre plateformes et usagers, ainsi que ses conséquences.
Que se cache-t-il derrière le terme de « digital labor » — que l’on pourrait traduire littéralement par « travail numérique » ?
Antonio Casilli : Le digital labor est avant tout un domaine de recherche relativement nouveau. Il est apparu à la fin des années 2000 et il explore les nouvelles manières de créer de la valeur sur les plateformes numériques. En particulier, il pointe l’émergence d’une nouvelle manière de travailler : « tâcheronisée » et « dataifiée ». Ce sont des mots barbares qu’il faut définir pour bien comprendre. « Dataifiée », parce qu’il s’agit de produire de la data pour que les plateformes numériques en tirent de la valeur. « Tâcheronisée », car pour produire de la data efficacement il faut standardiser le geste humain et le réduire à son unité la plus petite. Ceci introduit un effet de fragmentation des savoirs complexes, ce qui se superpose à des risques de déqualification et de déstructuration des métiers traditionnels.
Concrètement, qui effectue ce travail dont il est question ?
AC : Des micro-travailleurs qui sont recrutés par le biais de plateformes numériques. Ce sont les petites mains, les travailleurs du clic derrière les API. Mais dans la mesure où ce cas de figure se généralise, on pourrait répondre : n’importe quel travailleur effectue du digital labor. Et même : n’importe quel consommateur. Si nous adoptons cette perspective, n’importe qui, inscrit sur Facebook, Twitter, Uber, Amazon, YouTube, est un travailleur du clic… Vous, moi, nous produisons du contenu : des vidéos, des photos, des commentaires… Derrière ce contenu se cachent des métadonnées, qui intéressent les plateformes. Facebook n’est pas intéressée par le contenu de vos photos, par exemple. La plateforme est intéressée par où et quand la photo a été prise, par la marque de l’appareil qui a photographié. Et ces données, vous les produisez de manière tâcheronisée puisque pour vous c’est un simple clic sur une interface numérique. Ce digital labor est non rémunéré, puisque vous ne touchez aucune rétribution financière pour ce travail. Mais cela reste du travail : c’est une source de valeur, tracée, mesurée, évaluée, et encadrée contractuellement par les conditions générales d’usage des plateformes.
Existe-t-il un digital labor qui n’est pas gratuit ?
AC : Oui, c’est l’autre catégorie du digital labor : le travail micro-payé. Des personnes sont rémunérées pour cliquer toute la journée sur des interfaces et réaliser des tâches hyper simples. Ces tâcherons sont le plus souvent situés en Inde, aux Philippines, ou dans des pays en voie de développement, où le salaire moyen est bas. Ils reçoivent une poignée de centimes de dollars pour chaque clic.
Quel intérêt les plateformes tirent-elles de cette main d’œuvre ?
AC : Rendre les algorithmes plus performants. Amazon a par exemple un service de micro-travail qui s’appelle Amazon Mechanical Turk, qui est certainement la plateforme de micro-travail la plus connue au monde. Leurs algorithmes de recommandation d’achat, par exemple, ont besoin de s’entraîner sur des grandes bases de données de qualité pour être efficaces. Les tâcherons sont là pour trier, annoter, qualifier les images des produits proposés par Amazon. Ils sont là pour en extraire des informations textuelles pour les clients, traduire des commentaires pour améliorer les propositions d’achats secondaires dans d’autres langues, écrire les descriptions de produits…
Je cite Amazon mais ce n’est pas le seul exemple. Les géants du numérique se sont tous dotés de services de micro-travail. Microsoft se sert d’UHRS, Google de son service EWOQ… Derrière Watson, l’intelligence artificielle d’IBM présentée comme une de ses plus belles réussites dans le domaine, il y a MightyAI. Cette entreprise rémunère des micro-travailleurs pour entraîner Watson, et a pour devise « Train data as a service ». Dessus, les micro-travailleurs indiquent par exemple sur des images le ciel, les nuages, les montagnes, etc. afin d’entraîner des algorithmes de reconnaissance visuelle. C’est une pratique très répandue. Il ne faut pas oublier que derrière l’intelligence artificielle, il y a avant tout des humains. Et ces humains sont avant tout des travailleurs, dont les conditions de travail et les droits doivent être respectés.
Cette forme de digital labor est un peu différente de celle que j’effectue puisqu’il s’agit là d’effectuer des tâches plus techniques.
AC : Au contraire, il s’agit de tâches simples, qui ne demandent pas un savoir expert. Disons-le haut et fort : le travail des micro-tâcherons et des foules anonymes des usagers de plateformes n’est pas un travail de « sublimes », d’experts d’informatique, d’ingénieurs et hackers. Au contraire, il exerce une pression vers le bas sur les rémunérations et les conditions de travail de cette portion de la force de travail. Le risque pour un ingénieur du numérique aujourd’hui n’est pas de se faire remplacer par un robot, mais que son travail soit délocalisé par son entreprise au Kenya ou au Nigeria où il sera réalisé par des micro-tâcherons du code recrutés par de nouvelles entreprises comme Andela, la startup financée par Mark Zuckerberg. Il faut comprendre que les micro-tâches ne sont pas un métier qui mobilise des savoirs complexes : écrire une ligne, transcrire un mot, saisir un chiffre, labéliser une image. Et surtout cliquer, cliquer, cliquer…
Est-ce que je peux percevoir l’influence de ces clics en tant qu’utilisateur ?
AC : Les tâcherons recrutés par ces véritables « fermes à clic » peuvent également être mobilisés pour regarder une vidéo, écrire un commentaire ou mettre un like. C’est souvent ce qu’il se passe lors des grandes campagnes publicitaires ou politiques. Les entreprises ou partis ont un budget, ils délèguent la campagne numérique à une entreprise qui elle-même va déléguer à un prestataire… Et au final on se retrouve dans une situation où dans un bureau, quelque part, deux personnes ont un objectif irréalisable de devoir engager un million de personnes sur un tweet. Comme c’est impossible, elles utilisent leur budget pour générer des faux clics via des tâcherons. C’est aussi comme cela que des fake news prennent une ampleur incroyable : en étant supportées financièrement par des agences mal intentionnées qui paient une fausse audience. C’est d’ailleurs l’objet du projet de recherche Profane que je mène actuellement à Télécom ParisTech avec Benjamin Loveluck et d’autres collègues français et belges.
Les plateformes ne luttent-elles pas contre ce genre de pratiques ?
AC : Non seulement elles ne luttent pas contre ces pratiques, mais elles les ont intégrées dans leur modèle d’affaires. Pour les réseaux sociaux, les messages avec beaucoup de likes ou de commentaires augmentent l’envie des autres utilisateurs d’interagir et de générer du trafic organique. Ils consolident ainsi leur base d’utilisateurs. En plus de cela, ces plateformes ont aussi recours à ces pratiques, par le jeu des chaînes de sous-traitance. Lorsque vous faites une campagne sponsorisée sur Facebook ou Twitter, vous avez beau calibrer votre cible de la meilleure façon qui soit, vous finissez toujours par avoir des clics générés par des micro-tâcherons.
Mais si ces tâcherons sont rémunérés pour liker ou commenter, cela ne pose-t-il pas des questions par rapport aux tâches que font les utilisateurs classiques ?
AC : Le nerf de la guerre est là. Aux yeux de la plateforme, il n’y a pas de différence entre moi et un travailleur du clic rémunéré à la micro-tâche. Nos deux likes ont la même signification financière pour elle. C’est pourquoi, dans le premier cas de figure comme dans le second, on parle de digital labor. C’est pour cela aussi que Facebook fait face à un recours collectif déposé auprès de la Cour de justice de l’Union européenne par 25 000 utilisateurs. Ils demandent 500 € par personne pour toute la donnée qu’ils ont produite. Google a également fait face à une plainte pour ses Recaptcha, par des usagers qui demandaient à être requalifiés en employés de la firme de Mountain View. Recaptcha était un service qui enjoignait aux utilisateurs de certifier qu’ils n’étaient pas des robots en identifiant des mots peu lisibles. Les données récoltées servaient à améliorer les algorithmes de reconnaissance textuelle de Google Books pour la numérisation des livres. La plainte a échoué mais elle a fait prendre conscience de la notion de digital labor. Et surtout, elle a provoqué une prise de conscience interne auprès de Google, qui a ensuite abandonné le système Recaptcha.
Les utilisateurs classiques pourraient-ils alors être rémunérés pour les données qu’ils fournissent ?
AC : Dans la mesure où les micro-tâcherons payés quelques centimes par clic et les utilisateurs lambda réalisent le même type de geste productif, il est légitime de se poser la question. Le 1er juin dernier, Microsoft a décidé de rémunérer en bons d’achat les utilisateurs de Bing pour les convaincre d’utiliser leur moteur de recherche plutôt que Google. Il est possible pour une plateforme d’avoir un prix d’utilisation négatif – c’est à dire de payer ses usagers pour leurs usages. La question qui se pose est de savoir à quel moment ce genre de pratique est assimilable à un salaire, et si le prisme salarial est le plus adapté politiquement et le plus viable socialement. On rentre là dans des questions classiques de la sociologie du travail. Elles peuvent aussi concerner les chauffeurs Uber, qui vivent de l’application et dont les données sont utilisées pour entraîner des voitures autonomes. Les corps intermédiaires et les pouvoirs publics ont un rôle important à jouer dans ce contexte. Il existe des initiatives, comme celle du syndicat IG Metal en Allemagne, qui visent à valoriser le micro-travail et à instaurer des négociations collectives pour faire valoir les droits des tâcherons du clic, et plus globalement de tous les travailleurs des plateformes.
Plus généralement c’est la question de ce qu’est une plateforme numérique qui semble être posée.
AC : Pour moi, il vaut mieux reconnaître le caractère contractuel établi entre une plateforme et ses utilisateurs. Les conditions générales d’utilisation devraient être renommées « contrats d’exploitation à fins commerciales des données et des tâches réalisées par des humains » — si la finalité est commerciale. Car c’est ce que toutes les plateformes ont en commun : extraire de la valeur des données, et décider qui a le droit de les exploiter.
What is Digital Labor?
Are we all working for digital platforms? This is the question posed by a new field of research: digital labor. Web companies use personal data to create considerable value —but what do we get in return? Antonio Casilli, a researcher at Télécom ParisTech and a specialist in digital labor, will give a conference on this topic on June 10 at Futur en Seine in Paris. In the following interview he outlines the reasons for the unbalanced relationship between platforms and users and explains its consequences.
What’s hiding behind the term “digital labor?”
Antonio Casilli: First of all, digital labor is a relatively new field of research. It appeared in the late 2000s and explores new ways of creating value on digital platforms. It focuses on the emergence of a new way of working, which is “taskified” and “datafied.” We must define these words in order to understand them better. “Datafied,” because it involves producing data so that digital platforms can derive value. “Taskified,” because in order to produce data effectively, human activity must be standardized and reduced to its smallest unit. This leads to the fragmentation of complex knowledge as well as to the risks of deskilling and the breakdown of traditional jobs.
And who exactly performs this work in question?
AC: Micro-workers who are recruited via digital platforms. They are unskilled laborers, the click workers behind the API. But, since this is becoming a widespread practice, we could say anyone who works performs digital labor. And even anyone who is a consumer. Seen from this perspective, anyone who has a Facebook, Twitter, Amazon or YouTube account is a click worker. You and I produce content —videos, photos, comments —and the platforms are interested in the metadata hiding behind this content. Facebook isn’t interested in the content of the photos you take, for example. Instead, it is interested in where and when the photo was taken, what brand of camera was used. And you produce this data in a taskified manner since all it requires is clicking on a digital interface. This is a form of unpaid digital labor since you do not receive any financial compensation for your work. But it is work nonetheless: it is a source of value which is tracked, measured, evaluated and contractually defined by the terms of use of the platforms.
Is there digital labor which is not done for free?
AC: Yes, that is the other category included in digital labor: micro-paid work. People who are paid to click on interfaces all day long and perform very simple tasks. These crowdworkers are mainly located in India, the Philippines, or in developing countries where average wages are low. They receive a handful of cents for each click.
How do platforms benefit from this labor?
AC: It helps them make their algorithms perform better. Amazon, for example, has a micro-work service called Amazon Mechanical Turk, which is almost certainly the best-known micro-work platform in the world. Their algorithms for recommending purchases, for example, need to practice on large, high-quality databases in order to be effective. Crowdworkers are paid to sort, annotate and label images of products proposed by Amazon. They also extract textual information for customers, translate comments to improve additional purchase recommendations in other languages, write product descriptions etc.
I’ve cited Amazon but it is not the only example. All the digital giants have micro-work services. Microsoft uses UHRS, Google has its EWOQ service etc. IBM’s artificial intelligence, Watson, which has been presented as one of its greatest successes in this field, relies on MightyAI. This company pays micro-workers to train Watson, and its motto is “Train data as a service.” Micro-workers help train visual recognition algorithms by indicating elements in images, such as the sky, clouds, mountains etc. This is a very widespread practice. We must not forget that behind all artificial intelligence, there are, first and foremost, human beings. And these human beings are, above all, workers whose rights and working conditions must be respected.
This form of digital labor is a little different from the kind I carry out because it involves more technical tasks.
AC: No, quite the contrary. They perform simple tasks that do not require expert knowledge. Let’s be clear: work carried out by micro-workers and crowds of anonymous users via platforms is not the ‘noble’ work of IT experts, engineers, and hackers. Rather, this labor puts downward pressure on wages and working conditions for this portion of the workforce. The risk for digital engineers today is not being replaced by robots, but rather having their jobs outsourced to Kenya or Nigeria where they will be done by code micro-workers recruited by new companies like Andela, a start-up backed by Mark Zuckerberg. It must be understood that micro-work does not rely on a complex set of knowledge. Instead it can be described as: write a line, transcribe a word, enter a number, label an image. And above all, keep clicking away.
Can I detect the influence of these clicks as a user?
AC: Crowdworkers hired by genuine “click farms” can also be mobilized to watch videos, make comments or “like” something. This is often what happens during big advertising or political campaigns. Companies or parties have a budget and they delegate the digital campaign to a company, which in turn outsources it to a service provider. And the end result is two people in an office somewhere, stuck with the unattainable goal of getting one million users to engage with a tweet. Because this is impossible, they use their budget to pay crowdworkers to generate fake clicks. This is also how fake news spreads to such a great extent, backed by ill-intentioned firms who pay a fake audience. Incidentally, this is the focus of the Profane research project I am leading at Télelécom ParisTech with Benjamin Loveluck and other French and Belgian colleagues.
But don’t the platforms fight against these kinds of practices?
AC: Not only do they not fight against these practices, but they have incorporated them in their business models. Social media messages with a large number of likes or comments make other users more likely to interact and generate organic traffic, thereby consolidating the platform’s user base. On top of that, platforms also make use of these practices through subcontractor chains. When you carry out a sponsored campaign on Facebook or Twitter, you can define your target as clearly as you like, but you will always end up with clicks generated by micro-workers.
But if these crowdworkers are paid to like posts or make comments, doesn’t that raise questions about tasks carried out by traditional users?
AC: That is the crux of the issue. From the platform’s perspective, there is no difference between me and a click-worker paid by the micro-task. Both of our likes have the same financial significance. This is why we use the term digital labor to describe these two different scenarios. And it’s also the reason why Facebook is facing a class-action lawsuit filed with the Court of Justice of the European Union representing 25,000 users. They demand €500 per person for all the data they have produced. Google has also faced a claim for its Recaptcha, from users who sought to be re-classified as employees of the Mountain View firm. Recaptcha was a service which required users to confirm that they were not robots by identifying difficult-to-read words. The data collected was used to improve Google Books’ text recognition algorithms in order to digitize books. The claim was not successful, but it raised public awareness of the notion of digital labor. And most importantly, it was a wake-up call for Google, who quickly abandoned the Recaptcha system.
Could traditional users be paid for the data they provide?
AC: Since both micro-workers, who are paid a few cents for every click, and ordinary users perform the same sort of productive activity, this is a legitimate question to ask. On June 1, Microsoft decided to reward Bing users with vouchers in order to convince them to use their search engine instead of Google. It is possible for a platform to have a negative price, meaning that it pays users to use the platform. The question is how to determine at what point this sort of practice is akin to a wage, and if the wage approach is both the best solution from a political viewpoint and the most socially viable. This is where we get into the classic questions posed by the sociology of labor. They can also relate to Uber drivers, who make a living from the application and whose data is used to train driverless cars. Intermediary bodies and public authorities have an important role to play in this context. There are initiatives, such as one led by the IG Metal union in Germany, which strive to gain recognition for micro-work and establish collective negotiations to assert the rights of clickworkers, and more generally, all platform workers.
On a broader level, we could ask what a digital platform really is.
AC: In my opinion, it would be better if we acknowledged the contractual nature of the relationship between a platform and its users. The general terms of use should be renamed “Contracts to use data and tasks provided by humans for commercial purposes,” if the aim is commercial. Because this is what all platforms have in common: extracting value from data and deciding who has the right to use it.