✍️ Nouveau Départ, Nouveau Travail. Voici un nouvel article de ma série “Nouveau Départ, Nouveau Travail” où je partage, par écrit, des réflexions sur les mutations du travail, inspirées par l’actualité, des expériences vécues ou mes lectures du moment. Je me suis fixé le défi de vous proposer des articles courts et percutants. 💡
Vous avez dû voir passer cette affirmation dans les médias. Forcément, sa diffusion a été conçue pour capter votre attention. Elle a capté la mienne. Parce que, biberonnée à Terminator dans les années 1980-1990, ça me parle. Chez James Cameron, Skynet, un système de défense confié à une IA, devient conscient et décide de déclencher l’apocalypse nucléaire, et ensuite envoie un cyborg (Arnold Schwarzenegger) dans le passé pour tuer la mère du futur chef de la résistance humaine. Dans Terminator 2, la mère en question, Sarah Connor, est devenue une badass hyper musclée (dans les yeux de l’ado que j’étais, ça a fait son effet, je me suis mise à adorer les muscles), prête à faire péter toutes les machines et les hommes qui les développent. “No fate but what we make for ourselves” (pas de destin sauf celui qu’on se fabrique).
Ces temps-ci, dans les médias, on nous rejoue un scénario à la Terminator. Mais qu’est-ce qui se cache derrière ? Je vais faire la sceptique de service, malgré tout l’amour que je porte à Sarah Connor…
Deux semaines de panique
Ces dernières semaines, la peur du robot tueur a envahi les médias. En septembre, un gars d’Anthropic a démissionné en accusant les labos d’IA de « jouer avec nos vies » : on serait en train de foncer vers une superintelligence bien trop dangereuse pour nous. Un de ses collègues a chiffré à « plus de 10 % » la probabilité que l’IA extermine l’humanité d’ici dix ans. (La capacité des gars à imposer leurs probas au doigt mouillé et au public de prendre ses chiffres au sérieux n’aura de cesse de m’étonner.)
Puis Dario Amodei, le patron d’Anthropic, a publié un essai “We Must Pace the Frontier”, pour réclamer publiquement un ralentissement coordonné de l’industrie. Dans les heures et jours qui ont suivi, les types qui représentent les géants de l’IA se sont empressés d’approuver. Sam Altman (OpenAI), Elon Musk (“Dario is right”), Demis Hassabis (Google DeepMind), entre autres. Barack Obama s’en est mêlé et même le roi Charles a annoncé un sommet.
En face, Donald Trump a balayé tout ça du revers de sa main bleutée : ce n’est qu’un canular (hoax), un canular « encore plus délirant que l’arnaque du réchauffement climatique ». Ce n’est pas souvent que j’ai envie de me ranger du côté des propos de Donald Trump. Mais là, il y a effectivement quelques raisons de remettre en question le tapage médiatique autour des IA tueuses, ou du moins de s’interroger sur l’orchestration de cette communication de boys club…
Pourquoi nous imposer ce discours précisément maintenant ?
En réalité, l’idée que l’IA puisse nous détruire n’a rien de neuf. Les auteurs de science-fiction la ressassent depuis un demi-siècle, et des enquêtes menées auprès de milliers de chercheurs montrent qu’une bonne partie d’entre eux prennent au sérieux le scénario d’extinction de notre espèce. Est-ce parce qu’ils sont trop férus de science-fiction ou est-ce qu’ils comprennent des choses que nous autres ordinaires mortels ne comprenons pas ? Je l’ignore, mais toujours est-il qu’ils disent ça depuis des décennies. Alors pourquoi ce déferlement soudain ? Surtout de la part de ceux-là mêmes qui fabriquent ces IA et ont le culot de dire aux autres d’arrêter d’en faire de même ? J’ai trois explications (qui ne s’excluent pas les unes les autres).
D’abord, il s’agit de freiner le développement pour consolider les positions acquises. Une pause décrétée entre géants installés empêchera les nouveaux entrants et les modèles ouverts de les rattraper. Comme ça, ils domineront tranquillement le paysage. D’où la ligne de fracture du moment : d’un côté les VCs (capital-risqueurs) comme Marc Andreessen, Ben Horowitz et David Sacks, le « monsieur IA » de Trump, qui veulent continuer à accélérer parce qu’ils ont peur de la fin de la récré et de l’éclatement de la bulle donc ils veulent que ça continue à fond à fond. De l’autre, quelques leaders de l’IA qui réclament que tout le monde lève le pied. On fait très très peur et ensuite, on assouplit le droit de la concurrence en laissant à ces quelques géants les mains libres pour « coopérer » sur la sécurité. Ben voyons ! Ça vous arrangerait bien qu’on assouplisse le droit de la concurrence, n’est-ce pas ?
Ensuite, le bruit médiatique impose le mauvais type de régulation. Si le débat se cristallise sur l’extinction de l’espèce, les règles qui en sortiront viseront des scénarios hypothétiques et pas les dégâts déjà là. Certes, la sincérité de beaucoup de chercheurs ne fait pas trop de doute. Mais on peut être vraiment inquiet et quand même servir une stratégie qui arrange son employeur. Et l’employeur en question peut se jeter dessus pour poursuivre ses intérêts, mettre cette crainte pas nouvelle sur le devant de la scène pile poil parce que ça l’arrange…
Enfin, tout ça fait diversion. Et c’est bien commode. Tant qu’on parle de robots tueurs, on ne parle pas du reste, et le reste est déjà fort grave. Pas besoin de superintelligence pour faire énormément de mal à l’humanité et à la planète. Drame écologique liés aux datacenters, employeurs qui invoquent l’IA pour licencier ou geler les embauches, effondrement cognitif, dettes de compétences (Cf « IA : 3 dettes qui s’accumulent »), insécurité des données, manque d’eau, énergies sales englouties par les serveurs, mépris de la propriété intellectuelle, menaces sur la démocratie à coups de fakes, etc. On a déjà assez de problèmes à traiter aujourd’hui avant de penser à Skynet. Forcément, aucun de ces sujets ne semble faire le poids face à « on va tous mourir ». Moi la première, si on m’annonce ma fin prochaine, l’idée de devenir plus bête me paraît soudain très secondaire.
Une raison bonus, plus terre-à-terre : leurs modèles tournent à perte. Répondre à nos requêtes leur coûte une fortune. Dès janvier 2025, Sam Altman reconnaissait sur X perdre de l’argent sur l’abonnement ChatGPT Pro à 200 dollars par mois, les gens l’utilisant « beaucoup plus que prévu ». Même les clients qui paient plein pot coûtent plus qu’ils ne rapportent. Et ça ne s’est arrangé depuis. C’est un gouffre. De plus, l’infrastructure ne suit pas : il n’y a pas assez de datacenters, ni assez d’électricité pour tenir le niveau promis. Le modèle le plus avancé d’Anthropic, Fable, est facturé deux fois plus cher que Opus, mais ce n’est encore pas assez cher. Alors forcément, « il faut freiner pour éviter la fin de l’humanité », ça passe mieux que « il faut freiner parce que notre modèle d’affaires n’est pas tenable et qu’on va perdre trop d’argent ».
No fate but what we make for ourselves
La sagesse de Sarah Connor mérite d’être reprise. La façon qu’on a de parler de l’IA de façon anthropomorphique, comme d’une entité qui décide toute seule et devient intelligente toute seule, laisse penser que nous n’y sommes pour rien dans cette histoire et que nous n’avons aucun pouvoir. C’est faux. D’abord, c’est nous qui la développons. Ensuite, nous pouvons parfaitement réguler sur tous les sujets qui nous inquiètent, choisir de ne pas l’utiliser, refuser la construction de datacenters, etc. Notre avenir dépend des choix humains et des questions que l’on pose tout de suite : qui contrôle les outils, qui en paie le coût, quelles compétences on laisse s’atrophier et lesquelles on protège ?
À lire également :
Personnellement, plutôt que rejeter cet argument du robot tueur, j'en ferais un argument à ajouter à votre point 3, pour en faire une critique plus complète de l'IA... Dans le domaine, la "bible" de Kate Crawford : " Contre atlas de l'IA" me semble vraiment faire honnêtement le tour de la question...
Lecture très interessante de l’actualité. Merci