Every wave of technological innovation has been unleashed by something costly becoming cheap enough to waste. Software production has been too complex and expensive for too long, resulting in immense, society-wide technical debt. This technical debt is about to contract in a dramatic, economy-wide fashion as the cost and complexity of software production collapses, releasing a wave of innovation.
Une perspective que je n’avais pas sur l’impact économique et social des différentes avancées tech, et qui donne un angle différent sur l’IA. Finalement, serait-il possible que les ingénieurs en informatique mettent la clé sous la porte plus vite que toutes ces professions dont on disait qu’elles seraient remplacées par des IA ?
Nos recherches appuient l’hypothèse que le développement de l’intelligence artificielle ne signifie pas la fin de travail due à l’automation, comme certains auteurs l’avancent, mais plutôt son déplacement dans les pays en voie de développement.
Notre étude montre aussi la réalité de « l’IA à la française » : d’un côté, les entreprises technologiques françaises s’appuient sur les services des GAFAM pour accéder à des services d’hébergement de données et de puissance de calcul ; d’un autre côté les activités liées aux données sont réalisées par des travailleurs situés dans les ex-colonies françaises, notamment Madagascar, confirmant alors des logiques déjà anciennes en matière de chaînes d’externalisation. La littérature compare d’ailleurs ce type d’industrie avec le secteur textile et minier.
[…]
Les données du questionnaire révèlent que ce secteur emploie majoritairement des hommes (68 %), jeunes (87 % ont moins de 34 ans), urbains et éduqués (75 % ont effectué un passage dans l’enseignement supérieur).
Quand ils évoluent au sein de l’économie formelle, ils occupent généralement un poste en CDI. La moindre protection offerte par le droit du travail malgache comparée au droit du travail français, la méconnaissance des textes par les travailleurs, et la faiblesse des corps intermédiaires (syndicats, collectifs) et de la représentation en entreprise accentuent néanmoins la précarité de leur position. Ils gagnent en majorité entre 96 et 126 euros par mois, avec des écarts de salaires significatifs, jusqu’à 8 à 10 fois plus élevés pour les postes de supervision d’équipe, également occupés par des travailleurs malgaches situés sur place.
[…]
Ce schéma rappelle ce que le chercheur Jan Padios désigne comme le « colonial recall ». Les anciens pays colonisés disposent de compétences linguistiques et d’une proximité culturelle avec les pays donneurs d’ordres dont bénéficient les entreprises de services.
[…]
Derrière l’explosion récente des projets d’IA commercialisés dans les pays du nord, on retrouve un nombre croissant de travailleurs de la donnée. Alors que la récente controverse autour des « caméras intelligentes », prévues par le projet de loi relatif aux Jeux olympiques de Paris, s’est principalement focalisée sur les risques matière de surveillance généralisée, il nous semble nécessaire de mieux prendre en compte le travail humain indispensable à l’entraînement des modèles, tant il soulève de nouvelles questions relatives aux conditions de travail et au respect de la vie privée.
Rendre visible l’implication de ces travailleurs c’est questionner des chaînes de production mondialisées, bien connues dans l’industrie manufacturière, mais qui existent aussi dans le secteur du numérique. Ces travailleurs étant nécessaires au fonctionnement de nos infrastructures numériques, ils sont les rouages invisibles de nos vies numériques.
C’est aussi rendre visible les conséquences de leur travail sur les modèles. Une partie des biais algorithmiques résident en effet dans le travail des données, pourtant encore largement invisibilisé par les entreprises. Une IA réellement éthique doit donc passer par une éthique du travail de l’IA.
Une enquête qui met en évidence l’entretien de l’inertie du système colonial dans l’entretien du système numérique. Je pense que cet article est à mettre en perspective avec le suivant sur la transformation du secteur du développement informatique par l’IA. Il n’y a jamais de magie, et toujours plus d’inégalités.
Sometimes smart people working hard make things worse. The following story is based my recollection of some real events.
Dans cet article, Adam Gordon Bell parle de biais que donne la posture d’un concepteur ou décideur, et ce que l’abstraction d’un vision globale a pour conséquences locales.
Diversity is not chiefly a pipeline problem. At the industry level, it is chiefly an inclusion problem tied to very specific monetary outcomes for your company. And you want to build an inclusive company. But at this company that you’ve built/joined, you’re struggling to make progress. You’ve done hours and hours of implicit bias training, but somehow every time you dare to do an anonymous survey, you get additional tips from employees about exclusion-related bullshit that happened to them.
L’inclusivité au delà de l’injonction à la diversité. Dans cet article, Chelsea Troy décrit des pratiques et compétences que j’ai pu voir et vivre dans des équipes efficaces et résilientes aux aléas d’un projet. Elle explique aussi pourquoi vos tentatives pour arriver à ce type de culture pourraient échouer.
