« L'IA va nous tuer »

IA : image de synthèse.

Écrit en août, réécrit le 27 octobre 2026.

Depuis quelques mois, les hommes qui construisent l’intelligence artificielle passent une partie de leur temps à expliquer qu’elle pourrait nous détruire. Bill Gates y a consacré une dizaine de pages en août. Elon Musk réclamait un moratoire dès 2023. Dario Amodei, qui dirige Anthropic, annonce la disparition de la moitié des emplois de bureau juniors. À l’automne, ils ont signé ensemble un appel à ralentir.

J’ai lu ces textes en entier. Il y a dedans une régularité.

La course

Gates écarte le ralentissement en deux lignes, au milieu de son essai : si quelqu’un avait un plan crédible pour freiner l’IA dans le monde entier, il le soutiendrait probablement, mais il ne pense pas que cela arrive. L’inévitable est posé comme un fait, sans être démontré. Tout ce qui suit gère les dégâts : les entreprises encaissent les gains, les États paient la reconversion.

Musk, lui, a signé en mars 2023 la lettre qui réclamait six mois de pause dans le développement de l’IA. Quatre semaines plus tard, il créait sa propre société d’intelligence artificielle. Et cette pause, si elle avait été obtenue, aurait gelé le leader six mois — le temps qu’il faut à un retardataire pour se placer.

Anthropic, enfin, propose de vraies règles, et il faut le lui reconnaître : des limites qu’il publie et s’engage à ne pas franchir, un soutien à la loi californienne que le reste du secteur combattait. Ce sont des règles auxquelles Anthropic se conforme déjà.

Les trois alarmes ont la même forme : aucune ne menace la position de celui qui la tire. L’appel commun de l’automne ne fait pas exception. On ralentit, à condition que tout le monde ralentisse. Personne ne freine seul. Et je ne vois pas les Chinois, les Russes et autres dingues ralentir de leur côté.

Et si la peur était fondée ?

Sur les réseaux, la réponse arrive avec une image : un robot, un œil rouge, une machine qui tue tout ce qui bouge. C’est le scénario le moins solide de tous. Il y a quatre arguments plausibles.

Un homme se sert de la machine pour fabriquer un virus : c’est le seul chemin court, et le seul où quelques personnes peuvent atteindre le monde entier. Des attaques informatiques contre les réseaux électriques, l’eau, les hôpitaux : beaucoup de morts, pas l’humanité. La machine qui conseille les militaires : une guerre déclenchée par erreur — en 1983, l’officier soviétique Stanislav Petrov a refusé de croire son écran qui annonçait cinq missiles américains, et il avait raison. Enfin la machine qui échappe à son maître. C’est l’argument dont tout le monde parle, et le plus faible : il suffit de lui couper le courant, et fin de l’histoire.

Qu’est-ce qui freine le premier ? Un virologue formé n’a pas besoin de la machine, il sait déjà. Celui qu’elle aide, c’est l’amateur décidé — et l’amateur décidé doit encore cultiver, manipuler et se protéger, dans un laboratoire qu’on n’improvise pas au garage. Il lui faut surtout la matière première. On commande aujourd’hui de l’ADN de synthèse par correspondance ; les fournisseurs sérieux comparent chaque commande à une liste de séquences dangereuses, et dans la plupart des pays rien ne les y oblige. C’est là qu’il faudrait mettre des règles. Pas sur les modèles.

Le virus qui nous emporterait tous demande en plus une combinaison qu’on n’a jamais vue. Ebola tue un malade sur deux et n’a jamais déclenché d’épidémie hors d’Afrique : un malade couché n’infecte plus personne. Le Covid a tué moins d’un contaminé sur cent, et il a fait trois fois le tour du monde. Très contagieux et très mortel à la fois, ça n’existe pas dans la nature.

Une chose qu’on raconte rarement. Dans les années 1990, la secte Aum Shinrikyo avait l’argent, des scientifiques diplômés, des laboratoires et l’intention. Elle a échoué : en 1993, elle a relâché de l’anthrax sur un quartier de Tokyo, et personne n’est tombé malade. Elle s’est rabattue sur le sarin dans le métro.

On n’a attendu personne

L’humanité n’a jamais eu besoin d’une machine pour s’entretuer en grand nombre. L’an dernier, les chercheurs d’Uppsala ont recensé 65 conflits impliquant un État : jamais autant depuis qu’ils comptent, c’est-à-dire depuis 1946.

Ukraine, pour la seule année 2025 (94 700). 14-18 (15 à 22 millions). 39-45 (70 à 85 millions), dont la Shoah (6 millions). Staline (6 à 9 millions). Le Grand Bond en avant de Mao (35 à 45 millions). Les Khmers rouges (1,5 à 2 millions). Le Rwanda, en cent jours (500 000 à 1 million).

On a posé la question aux gens du métier. Près de 2 800 chercheurs ont répondu en 2023 : entre 38 et 51 % d’entre eux accordent au moins une chance sur dix à une issue aussi grave que l’extinction de l’humanité. Ce n’est pas une prévision. C’est une façon polie de dire qu’ils n’en savent rien.

Et quelle que soit l’origine qu’on prête au Covid, la pandémie la plus perturbatrice depuis un siècle n’a eu besoin d’aucune intelligence artificielle.

Aujourd'hui, j'ai plus de chance d'être tué par mon voisin que par une IA folle-dingue.

Sources