Dans le cadre d’un grand dossier que le quotidien L’Humanité consacre aux travaux de notre équipe de recherche DiPLab, un long article dans lequel est présentée notre enquête sur la sous-traitance des données nécessaires pour produire les IA françaises à Madagascar (2022). Pour apporter un éclairage sur les liens entre travail du clic et héritages coloniaux, j’ai accordé un entretien au journaliste Pierric Marissal.
Antonio Casilli : « De sujets coloniaux à des “data subjects” »
Le partage des tâches dans l’économie de l’intelligence artificielle se calque sur des rapports de dépendance Nord-Sud, analyse le chercheur Antonio Casilli.
Antonio Casilli (1) coordonne avec Ulrich Laitenberger et Paola Tubaro l’équipe de recherche DiPLab (Digital Platform Labor) afin de mettre en lumière toute la chaîne de production humaine derrière les technologies intelligentes et l’IA. Deux régions géographiques sont étudiées : l’Amérique latine (projet CNRS Tria) et l’Afrique (projet ANR Hush), et leurs liens avec les entreprises donneuses d’ordres européennes.
Comment qualifiez-vous ces liens entre les entreprises donneuses d’ordres et exécutantes dans l’intelligence artificielle ? De la sous-traitance classique ? Du colonialisme ?
Cela reste une classique volonté d’externalisation vers des pays tiers à but de minimisation des coûts du traitement des données et des infrastructures. Les groupes occidentaux, pour développer leur sous-traitance, se sont souvent appuyés sur des entreprises structurées qui existaient déjà, par exemple dans le secteur du textile ou des centres d’appels. Dans l’Afrique francophone, on retrouve ainsi Madagascar, mais aussi le Maroc, la Tunisie, le Cameroun, le Sénégal ou la Côte d’Ivoire. Il s’est ainsi créé tout un circuit d’entraînement des intelligences artificielles. Cette sous-traitance s’inscrit dans une logique de dépendance économique qui elle-même est parfois héritée d’une longue histoire de dépendance politique. On peut alors parler effectivement de trajectoire coloniale. Mais je préfère le terme de colonialité, qui souligne l’emprise culturelle que les pays du Nord ont sur ceux du Sud.
C’est-à-dire ?
La colonialité, c’est le pouvoir de façonner l’identité des citoyens d’une autre nation. Jadis, elle les réduisait à des sujets coloniaux, aujourd’hui à des « data subjects ». Lorsqu’on regarde qui produit des données annotées, au bénéfice de qui, on voit bien qu’il n’y a pas de hasard. C’est en tout cas ce que montrent nos propres enquêtes pour l’Afrique francophone, comme celles de l’Oxford Internet Institute, qui a beaucoup travaillé les liens entre l’Afrique de l’Est, l’Inde, l’Angleterre et les États-Unis. Et les Philippines, qui étaient un protectorat états-unien.
On retrouve donc de vieilles dépendances…
Les liens culturels et linguistiques sont en effet cruciaux pour certains produits d’intelligence artificielle comme les assistants vocaux, par exemple, ou des systèmes linguistiques ou lexicaux. Beaucoup de microtravailleurs s’inscrivent à des cours de l’Alliance française ou de l’Institut Cervantès pour parfaire leur maîtrise de la langue. On retrouve, là encore, des liens issus des siècles passés. Mais on voit aussi de nouvelles dépendances de l’Ouest vers l’Est qui lient l’Égypte, les pays du Golfe et la Chine. J’ai rencontré des propriétaires de start-up dans la banlieue du Caire, où des jeunes Égyptiennes faisaient de la reconnaissance faciale pour le gouvernement chinois. Cette sous-traitance de technologies de surveillance qui consiste à identifier et traquer en temps réel, on l’a aussi rencontrée à Madagascar, comme au Venezuela.
Comme cela se passe-t-il en Amérique latine, justement ?
La colonialité des siècles passés se manifeste dans des liens entre des pays de langue espagnole et l’Espagne. Mais il y a aussi des dépendances héritées du XIXe siècle et de la doctrine Monroe, qui théorisait la domination politique des États-Unis sur tout le continent sud-américain. Aujourd’hui, l’Argentine, la Colombie et particulièrement le Venezuela produisent des données pour des entreprises américaines. Ils ont une identité économique et politique qui ne se construit que par rapport au pays le plus fort. C’est la définition même de la colonialité telle que l’a pensée le sociologue péruvien Aníbal Quijano. Concrètement, ces pays sont des sous-traitants condamnés à le rester. Leur travail sera constamment considéré comme sans qualité ni qualification. Même si nous avons rencontré des Vénézuéliens diplômés en sciences de l’ingénieur et des Malgaches diplômés de l’enseignement supérieur, ils sont réduits à faire des microtâches pour quelques centimes par jour sur des plateformes.
Y a-t-il des stratégies des entreprises donneuses d’ordres pour maintenir leurs sous-traitants en bas de l’échelle de la production de valeur ?
Les entreprises donnent le moins d’informations possibles sur l’usage qui sera fait des données. La raison officielle est que s’ils savaient à quoi est destinée l’intelligence artificielle, les travailleurs pourraient saboter le processus d’entraînement et chercher à introduire des biais spécifiques, pour des raisons économiques ou politiques. Cela peut s’imaginer si l’IA sert à de la reconnaissance visuelle pour des missiles de l’armée, par exemple. Mais, effectivement, moins les start-up donnent de détails, moins elles risquent que leurs sous-traitants s’organisent et tentent de leur piquer le marché. Cela entretient ce système de subordination.
À l’inverse, celui qui commande l’IA a-t-il connaissance de toute cette chaîne de sous-traitance ?
Pas forcément. Pour notre projet ANR Hush, nous avions interrogé des grands groupes français qui recrutaient les travailleurs de plateforme. Nous avons remarqué que les responsables marketing pouvaient décider d’acheter 10 000 clics pour une campagne de communication sans en référer aux ressources humaines, alors qu’il y a des humains derrière. Les entreprises commandent ce type de services comme si elles se payaient du matériel de bureau. Cela crée une nouvelle chape d’invisibilité sur ces travailleurs.
Entretien réalisé par Pierric Marissal