Depuis l'arrivée de ChatGPT, un narratif domine autour de la Gen AI : la productivité décuplée.
Or, s'il est vrai que pour certaines industries et certains métiers c'est indubitable - comme pour les développeurs par exemple - de nombreuses études tendent à montrer que les gains de productivité sont, encore, difficiles à prouver pour une grande majorité des métiers des cols-blancs.
J'ai un problème avec cette histoire de productivité. Pas parce qu'elle est fausse. Parce qu'elle est un leurre.
Qu'ils s'appellent ChatGPT, Copilot, Claude ; peu importe le nom qu'on leur donne, j'ai la certitude maintenant que ces interfaces n'ont qu'un seul but : la spoliation (du latin spoliatio / spoliare - « dépouiller, déshabiller, déposséder »).
Bien que commodément entaché d'une histoire orientée lutte des classes, je pense que c'est le bon terme pour décrire cette dynamique actuelle.
Ces machines - et au travers d'elles les Big Tech - procèdent à une spoliation intellectuelle, cognitive, psychologique et émotionnelle de masse.
Spoliation de l'expertise
Chaque prompt que vous tapez, chaque correction que vous apportez, chaque « non, pas comme ça, plutôt comme ça » - vous formez le système. Pas l'inverse.
Une étude de chercheurs de Stanford vient révéler un secret de polichinelle : toutes vos data, tous vos prompts, toutes vos interrogations, tout est monitoré, analysé, décortiqué sous toutes les coutures pour être stocké et réutilisé pour améliorer les prochains modèles.
En somme, nous nourrissons la matrice, mais cette fois-ci pour de vrai.
Vous injectez votre expérience et votre savoir-faire dans la matrice statistique, et non l'inverse.
Il fallait s'y attendre. Prenons l'exemple des précédentes révolutions industrielles : c'est bien ce qui s'est déroulé à chaque fois. La spoliation de l'expertise des individus, suivie de son encapsulation dans une machine pour - in fine - remplacer l'humain.
Les métiers à tisser n'ont pas « aidé » les tisserands. En revanche, une fois traduite et « encodée » dans le métier à tisser, l'expertise des tisserands devient automatisable. L'individu devient superflu. Un coût à éliminer.
Pire encore, cette spoliation est au cœur de tout le business model, et ce dès la création de ces systèmes. La phase d'entraînement des LLMs a consisté à « apprendre » de toute l'expertise, tout le contenu humain.
Spoliation de la création
Quand on demande une image « sur le thème des studios Ghibli », on obtient effectivement une simulation s'inspirant de toute l'expertise, la sensibilité et le style des studios Ghibli.
L'œuvre d'une vie de création - aspirée, digérée, restituée sans mention, sans licence, sans un centime. Les auteurs, les compositeurs, les artistes, les écrivains n'ont pas donné leur consentement. On ne le leur a pas demandé.
Pour notre propre plaisir immédiat, en bons narcissiques numériques que nous sommes, nous semblons omettre facilement cette spoliation originelle. De fait, il est plus facile de détourner le regard sur le dépeçage du travail de l'auteur original, surtout lorsque l'auteur n'est pas « nous-mêmes ».
Spoliation de l'intime
En plus du vol d'expertise et de créativité, les LLMs se délectent de notre intimité et de nos sentiments par les usages personnels que certains font de ces outils.
Vos analyses médicales, vos questions de couple, tout ce que vous partagez d'intime permettent de nourrir les modèles sur des aspects qui leur sont absolument inaccessibles.
Par là même, ces machines utilisent tous les subterfuges, dark patterns, pièges psycho-cognitifs afin de nous rendre accros - comme les réseaux sociaux l'ont fait avec succès avant elles. Les LLMs se nourrissent de ces ingrédients sous l'apparence de vous rendre un précieux service.
Ce qui se joue avec la prise de pouvoir des LLMs et leur omniprésence à venir, c'est le vol - au grand jour - de tout ce qui nous rend humain et reste inaccessible aux machines.
Notre expertise professionnelle, nos expériences, nos valeurs, notre morale, nos sentiments et nos émotions.
La question n'est plus de savoir si l'IA est utile. C'est de savoir ce qu'il restera de nous une fois la spoliation achevée.