À force de nuits blanches, de lectures incessantes et d'écriture, les racines de mon inconfort m'apparaissent plus précisément. Je vous partage ici, au travers de ce texte, la genèse et le développement de mes questionnements sur la technologie et l'Intelligence Artificielle. Ces réflexions aboutissent à une grille de lecture des risques liés à l'IA qui se différencie du narratif habituel.

Ce regard personnel - qui rejoint cependant certaines autres voix qui se font récemment entendre - j'espère qu'il permettra de renforcer notre compréhension des enjeux liés à l'usage de ces technologies afin d'œuvrer à en limiter les externalités négatives pour les utilisateurs.

Alors, accrochons notre ceinture et plongeons de nouveau à la recherche du lapin blanc.

J'aime la technologie depuis près de trente ans. Je l'utilise, l'étudie, la diffuse même. C'est mon métier, mon domaine d'expertise. À vrai dire, si on démarre une conversation sur la technologie, il faudra surement m'arrêter…

Elle a toujours été pour moi synonyme d'émancipation, de réflexions et de constructions. Un vecteur de liberté, à tout le moins intellectuelle. Elle peut aussi être ludique : combien de week-ends ai-je passés à coder des « trucs », à recompiler une 73e fois un noyau Linux, à apprendre le n-ième langage à la mode.

Je pense avoir dans mon dressing à « trucs » des centaines, si ce n'est des milliers de trucs. Pour la plupart d'entre eux, ils sont à moitié truc, à moitié bidule. Rares sont ceux qui sont élevés au rang de « chose ». Ce qui est certain, c'est qu'ils sont avant tout parfaitement inutiles, souvent défectueux et incomplets. Pourtant, je les ai tous conçus avec passion.

C'est ce genre de technophile qui, il y a presque trois ans jour pour jour, prenait l'annonce de la sortie de ChatGPT de plein fouet. Ce moment de bascule technologique, cette date si singulière dont la seule évocation déclenche indifféremment des « déjà » ou des « seulement ». Cette impression universelle si étrange d'un espace-temps qui se serait alors courbé ; désormais tout ne serait qu'accélération infinie.

Durant ces trente-six derniers mois, j'ai traversé plusieurs phases. Passée la stupéfaction des premiers jours, des premières semaines, j'ai été parmi les premiers et les plus enthousiastes, un véritable fanboy ; comme un Swifty, mais pour l'IA. À ma décharge, j'ai aussi presque immédiatement compris l'importance majeure et transformatrice que revêtirait cette technologie. Mon métier, allié à mon (délire) enthousiasme, m'a permis de voyager pour rejoindre les lieux où l'on enfante l'IA : la Silicon Valley. C'est ici, dans le saint des saints de cette Mecque technologique, que la marmite bouillonne ; ici dont sortent, à un rythme inhumain, les nouveaux modèles. En quelque sorte, une version 2.0 du « Nouveau Monde » se forgeait et j'en ai été le témoin.

Ces innovations portaient toutes en elles un je-ne-sais-quoi d'insaisissable. Cette technologie que je connaissais pourtant par cœur, qui m'était si prévisible et si rationnelle, se montrait ici sous un nouveau jour, recelant même une sorte de magie.

Avec l'IA, la tech semblait rompre d'avec ses chaînes.

Je sentais alors très clairement une avancée majeure, évidemment sur le plan technologique, mais peut-être plus encore, sur le champ de ses implications sociétales. Rifkin aurait-il finalement raison en prévoyant la « fin du travail » dans son ouvrage éponyme datant de 1995 ? Je me disais que nous avions affaire à quelque chose de plus important encore que l'arrivée d'Internet ; peut-être de l'ordre de l'avènement de l'électricité.

Je n'étais pas le seul à le sentir car, très vite, une armée de technophiles (certains de longue date, d'autres plus opportunistes) se ralliait sous cette même bannière de l'IA. Une sorte de ALL-IN planétaire. Comme dans le film culte « Interstellar » avec cette vague qui n'en finissait plus de grossir, l'IA allait donner naissance à des nuées de nouveaux services ; une véritable nouvelle économie. Le tout satellisé à des niveaux et une vitesse jamais encore observés dans l'histoire du progrès humain.

Dans cette course, j'étais dans le peloton de tête des illuminés, débordant d'enthousiasme. J'insistais pour mettre de l'IA à toutes les sauces ; la nature de la tâche importait peu. Tout était sujet à expérimentation. Ces expériences s'accompagnaient d'une justification constante et d'une autopersuasion quant à l'absolue nécessité d'en mettre partout. Et, je ne le nie pas, cette consommation « sans modération », tellement grisante, de l'IA, m'apportait une véritable jouissance.

Mais quel génie avait donc conçu ce cocktail qui tenait à la fois de l'eau bénite par ses vertus et du fentanyl par sa puissance addictive ?

J'ai d'abord usé et exaspéré ma famille, puis les quelques amis qui me restaient et, enfin, bien sûr, mes collaborateurs. Mais Dieu merci, la plupart ont pu être convertis à cette nouvelle drogue sans trop de difficultés ; venant grossir le rang des apôtres qui allaient poursuivre la diffusion de cette bonne nouvelle à travers le monde. Une sorte de religion, de culte. Parallèlement à cette accès de folie, qui avait littéralement pris le contrôle, mes passages à la télévision, en conférence, et ma « petite » notoriété profitaient eux aussi de ce swell technologique ; le tout formant une boucle de rétroaction entre mon ego et mon délire. Prenant des photos avec des demi-dieux lors de mes voyages dans l'Olympe de l'IA. Je me délectais du nectar d'être reconnu dans ce petit milieu, de « faire partie du club » ; ce club qui comptait aussi parmi ses membres les accélérationnistes, les technosolutionnistes, les transhumanistes et autres groupuscules plus obscurs encore.

Oui, j'étais totalement aspiré dans ce vortex, emporté par ce tourbillon qui semblait accélérer sans cesse.

Mon point de bascule personnel a été la réalisation que l'IA n'allait pas seulement supprimer quelques emplois, mais redessiner les contours d'industries entières, allant jusqu'à en raser certaines et peut-être même, de nombreuses. Ce n'est pas le petit génie Schumpeter, vous savez celui qu'on invoque systématiquement dans ces cas-là, qui me rassurait. Il serait peut-être enfin temps d'inventer un « point Schumpeter » à l'instar du point Godwin. Car ne nous leurrons pas, il n'y aura pas de destruction créatrice. Pas plus qu'il n'y en a eu, d'ailleurs, lors de la précédente rupture. Cette révolution serait un désastre social, j'en avais la certitude. L'iceberg du Titanic, sauf qu'il aurait la taille de l'Australie.

Attendez… À vrai dire, je ne suis pas honnête avec vous.

Mes doutes ont commencé bien avant tout ça. Dès 2015, ils ont commencé à apparaître dans mon sommeil, non pas sur la technologie elle-même, mais sur ceux qui la conçoivent et ceux qui la contrôlent.

Ne vous méprenez pas, je le répète, j'aime profondément la technologie, qui n'est en elle-même ni bonne ni mauvaise. Tout progrès technologique génère dans son sillage des effets positifs et des effets négatifs. Si l'on tente, assez logiquement de maximiser les premiers, on n'a malheureusement pas encore trouvé le moyen de réduire à zéro les effets négatifs, et ce principalement car une bonne partie d'entre eux sont imprévisibles (cf. Jacques Ellul et ses nombreuses études sur le sujet) ou alors leurs risques sont faibles, et on ne les considère pas.

C'est la lecture de « Hooked » par Nir Eyal en 2015 qui m'avait alors beaucoup marqué : il y décrit en détail les méthodes quasi scientifiques permettant de concevoir des applications et logiciels extrêmement addictifs. Les préceptes exposés ont servi de cahier des charges au développement des plateformes comme Facebook, Instagram, TikTok, Twitter et tant d'autres. Leur caractère addictif est la cause directe de leur nocivité sur la santé mentale, comme en attestent de nombreuses études scientifiques.

Puis, toujours dans le domaine du « mémorable », il y a eu l'épisode Cambridge Analytica, le Brexit, la manipulation des opinions par la tech et les plateformes. Ce big data et ce cloud présentés alors comme si innocents, ce Web 2.0 libérateur, censé connecter les gens entre eux, transformer le visiteur en acteur du web…

Le puzzle s'assemblait pièce après pièce, mais l'image promise sur la boîte ne ressemblait pas du tout à ce qui se tramait.

Donc, excusez ma naïveté, la technologie peut également - et c'est bien ce qui est inquiétant / révoltant - avoir des effets négatifs, voulus, consciencisés et même orchestrés.

Aujourd'hui, une partie importante de la tech vise à accaparer un maximum le temps et l'attention des utilisateurs, à tracer et profiler leurs moindres faits et gestes, à prévoir et influencer leurs opinions. Cette tech là, que personnellement je considère abjecte, sortait de terre comme le champignon vénéneux dans Tintin « L'Étoile Mystérieuse », jour après jour, plus puissant et menaçant.

En définitive, cela fait 10 ans que mes doutes existent.

Et ces nouveaux questionnements liés à l'IA viennent maintenant raviver les premières « amertumes » qui s'étaient peut-être un peu éteintes ou avaient perdu de leur force.

C'est incroyable cette capacité qu'on a d'oublier, parfois même les choses les plus énormes…

Aujourd'hui, je suis dans la période la plus introspective de ma vie et, non, ce n'est pas que la pré-crise de la pré-cinquantaine.

Malgré tout, quelque chose cloche dans tout ce vacarme.

Jamais dans l'histoire une évolution technologique n'a connu un tel engouement, ni de près ni de loin. Ni internet, ni l'ordinateur, ni le fil à couper le beurre alors que très disruptifs et d'une importance capitale pour l'humanité. Il est vrai que l'hyper-connexion de notre société de l'information permet à l'IA de se répandre de manière exponentielle, ce qui n'était pas le cas pour les précédentes ruptures.

Cette dynamique massive est orchestrée en premier lieu par les concepteurs de ces IA ainsi que tous ceux qui gravitent autour (infrastructure, hardware, solutions logicielles, etc.). Les « usual suspects » sont aux manettes : Microsoft, Google, OpenAI, Anthropic, Amazon, Apple et bien sûr, le soleil de tous, NVIDIA.

Pour ce faire, ils ont ressorti la bonne vieille carotte / bâton.

L'Intelligence Artificielle Générale, IAG (AGI en anglais) est l'utopie d'atteindre une IA avec le niveau d'intelligence d'un être humain, capable d'être généraliste (aujourd'hui les IA sont le plus souvent cantonnées à des domaines restreints). C'est bien une carotte pour les employeurs, les chefs d'entreprise et le patronat. Ça l'est également pour les marchés (délirants à cette idée) et plus généralement pour le Technocapitalisme.

Car en effet, dans l'hypothèse - ce qui n'est pas sûr à l'état de l'art actuel - où la science arriverait à développer une telle IA, alors cet instrument serait de nature à transformer le labeur humain de centaines de millions de cols-blancs en cycles GPU (calculs propres aux IA). D'agents humains nous passerions notre économie à agents silicium et IA.

Conséquemment, ce pourrait être le plus grand transfert de valeur (certains diront spoliation) de l'histoire de l'humanité, et aussi, très certainement un tremblement de terre multi-systémique. Je vois difficilement une conjecture où le (techno)capitalisme, tel qu'on le connait, poursuivrait son cours « normalement ».

Dit autrement : cela remettrait en jeu des fondamentaux économiques, sociétaux, et même anthropologiques à l'échelle mondiale.

Vous m'accorderez que ceci constitue un sacré gros bâton (au moins aussi gros que sa contrepartie carotte) pour les quelques centaines de millions de cols blancs que compte notre planète. Grosso modo, tous ceux qui travaillent devant un écran, vous, moi et tous les autres.

Fermez les yeux, imaginez que l'AGI, en fait c'est Thanos dans le film Avengers Infinity War, la scène ou 1 personne sur 2 part en fumée. Ce qui est triste ici, c'est que même si je vois juste, ce ne sera jamais aussi cinématographiquement esthétique.

Malgré tout… Oui, malgré tout, les discours rassurants se font aussi entendre çà et là afin d'éviter la panique générale, émanant notamment des pouvoirs publics, des institutions et des big Tech elles-mêmes.

Les petites phrases ou gimmicks du type « L'IA ne te remplacera pas mais quelqu'un qui utilise l'IA » ou bien encore les fameux « memes » pullulent jusqu'à l'overdose sur internet. Il est ici question de faire « #juste-assez-peur », mais pas trop tout de même, car la peur panique n'est jamais bonne pour le marché.

Ça rappelle le chef de bord du Titanic qui criait : ne vous inquiétez pas il y a des canots de sauvetage… Bien sûr, sauf que tout le monde sait qu'à la fin du film Jack meurt car il n'y a pas assez de place sur la planche de bois, désolé de spoiler.

L'AGI est donc un outil marketing puissant, soutenant un storytelling à la mesure de sa démesure.

Mais il est aussi, et ça c'est nouveau, une arme géopolitique majeure.

Atteindre l'AGI pourrait - une promesse de plus des big Tech - amener vers une ASI (Artificial Super Intelligence), une IA qui supplanterait n'importe quelle intelligence humaine dans n'importe quel domaine. Donc, pour que vous me suiviez, ASI c'est la version « Boss final » de AGI sauf que tu peux jamais, jamais la battre. (Ça pose selon moi un problème ontologique majeur mais je dois encore travailler ce point philosophique).

En tout état de cause, c'est la raison pour laquelle les grands de ce monde (principalement US et Chine), s'inscrivent à l'égard de l'IA dans une démarche similaire au projet Manhattan au siècle dernier. Ici, il n'est pas question d'atteindre la bombe atomique mais la suprématie IA, donc l'AGI qui ouvrira grand les portes vers l'ASI. (Un peu comme atteindre d'abord la bombe A puis H).

L'AGI est un enjeu de sécurité nationale qu'il faut atteindre avant le camp adverse, et ce, quel qu'en soit le coût. En un clin d'œil l'IA est sortie de son laboratoire pour être élevée au rang d'enjeu stratégique international majeur. Et quelques chaises supplémentaires viennent s'ajouter à la tablée des puissants pour y accueillir les patrons des Big Tech.

Résumons donc brièvement la situation : nous avons les Big Tech, pour qui le bien-être de l'humanité n'est pas précisément la préoccupation première. Ces entreprises pilotent le plus grand mouvement technologique (et financier) de l'histoire, embrigadant au passage les deux superpuissances mondiales.

Au fond, ce storytelling est finement ciselé, non ?

Les médias l'étalent bien comme il faut, les Big Tech soufflent le chaud et le froid, les politiques surfent les vaguelettes que cela génère ou jouent à un jeu de Risk grandeur nature.

Le tout rehaussé d'une hypnose généralisée : ceux qui ne s'agenouillent pas devant l'IA sont vite catalogués décélérationnistes, décroissants, ou pire, boomers. Un peu plus et on dirait que le monde court à sa fin (c'est ici que j'ouvre une deuxième bouteille de viognier…). Ces hypothèses apocalyptiques, toutes martelées avec force, semblent hautement probables et irrationnellement séduisantes. Presque envoûtantes. Elles m'ont tenu éveillé, ou en PLS dans mon lit, certaines nuits.

Mais à force de réflexions incessantes (dont certaines en PLS), de lectures boulimiques (dont certaines accompagnées de viognier), d'écriture thérapeutique et de très nombreuses discussions avec de vrais gens et pas qu'avec Claude, j'ai fini par comprendre quelque chose.

Le réel danger n'est absolument pas là où ces raconteurs d'histoires professionnels veulent que nous regardions.

Quand on ne sait plus qui on est, qu'on ne comprend plus le monde ni ce qu'on y fait, la solution est toujours la même : aller relire les philosophes. Ils étaient exactement dans le même état. Sauf que maintenant, ils sont morts.

Hannah Arendt écrivait :

« L'humanité vivante d'un homme décline dans la mesure où il renonce à la pensée. »Hannah Arendt

Et si le réel danger était tout simplement : notre pensée ?

Les interfaces IA telles qu'elles ont été conçues, tous les chatbots, ont été conçus pour faire croire, simuler, feindre qu'on dialogue avec une autre conscience et non pas une machine ou un algorithme.

Même ceux qui savent s'y méprennent car les apparences sont maintenant très/trop trompeuses. Pour preuve, mon dernier article.

Le champ lexical de tous les messages entre ces IA et l'utilisateur sont des actions ou adjectifs attachés à l'humain. Lorsqu'ils indiquent « réfléchir » avant de vous « répondre » ; ce serait moins intéressant pour l'utilisateur de lire « en cours d'inférence, veuillez patienter ». Mais ce serait plus juste et honnête.

Après avoir lancé la fonctionnalité « memory » le chatbot Claude vient d'en ajouter une nouvelle : les skills (compétences en français).

Que dire, enfin, de l'éternelle flatterie avec laquelle ces IA nous répondent ? Peu importe ce que vous entrez dans les interfaces, vous êtes de toutes façons « parfaitement juste », « incroyablement lucide »…

Mais, attendez, cela ne vous rappelle pas quelque chose ?

Et oui, c'est de la rétroaction positive censée libérer un petit shoot de dopamine dans le cerveau des utilisateurs. L'exact même mécanisme que les likes, followers et autres métriques de vanité des Facebook, Insta, TikTok et autres ont utilisé pour rendre dépendant la planète…

Vous retrouvez également ce narratif anthropomorphique dans la bouche des concepteurs et dirigeants. Prenez par exemple Sam Altman qui dit au monde qu'il est préférable de dire « Please » et « Thank you » à ChatGPT.

Or c'est bien une machine, un programme, un algorithme et NON une conscience. Et même si c'était une conscience, admettons-le un instant, ce n'est absolument pas « votre conscience ».

Elle est extérieure à vous. Mais tout a été pensé dès la conception avec l'anthropomorphisme en objectif de leurs concepteurs. Car l'anthropomorphisme est une feature des chatbots IA. Leur storytelling et le marketing sont aussi profondément anthropomorphisants.

Pour Socrate la pensée est « une conversation que l'âme tient avec elle-même ».

Cette hypothèse du « deux-en-un » de Socrate, reprise ensuite par Arendt, indique que la pensée implique d'être « en compagnie de soi-même » et que de cette discussion avec soi permet la naissance d'une conscience morale minimale.

Elle ajoute que ce « deux-en-un » socratique est la structure même de la conscience.

Ce dialogue intérieur entre soi et soi est la conscience humaine.

Le risque réside dans le fait qu'avec ces chatbots qui se travestissent en « autre » simili-conscience externe, le dialogue intérieur perde peu à peu du terrain et qu'on le « délègue » systématiquement à un système (IA, bureaucratie, idéologie).

Qu'on ne se vive plus comme un deux-en-un mais comme un « un-avec-un-système » qui pourrait se muer ensuite vers un « assistant-du-système ».

En poussant encore un plus loin dans le raisonnement, le risque absolu serait le remplacement systématique du dialogue intérieur par une autorité extérieure « qui sait mieux que soi » (l'IA).

C'est ce qu'Arendt appelle le « thoughtlessness » (lorsqu'on perd ce dialogue avec soi).

Je terminerai par cette citation trouvée dans une thèse récente (Leifer, V. A. (2024))

« Si l'absence de pensée devient massive, les mouvements totalitaires ont un terrain idéal et la démocratie s'érode rapidement. »V. A. Leifer (2024)