2026-09-18 d’Lëtzebuerger Land

La brèche ouverte cet été par des agents d’OpenAI sur Hugging Face (une plateforme open source) serait inédite. Il s’agirait de la première fois que des agents (des logiciels capables de répondre à un objectif en plusieurs étapes) se comportent comme un collectif dans le but de mener des attaques informatiques contre des cibles, sans qu’on le leur ait demandé et sans que cette action n’ait de rapport avec la tâche qui leur était assignée.

Volker Türk, haut-commissaire de l’ONU pour les droits de l’Homme, assure que l’IA menace tous les droits humains et réclame une gouvernance mondiale. Les pontes de l’IA, notamment ceux d’Anthropic, d’OpenAI et de xAI, ont exprimé ces derniers jours leur souhait de ralentir le développement des modèles les plus performants. Xi Jinping, en juillet, a lui aussi alerté sur les dangers de l’IA. Donald Trump est le dernier héraut d’un développement sans frein de l’intelligence artificielle. Il y voit surtout le moyen d’assommer la Chine. La Bank of America estime que l’IA pèse plus de quarante pour cent de la valeur boursière américaine.

Des observateurs s’étonnent de cet accès de clairvoyance des boss américains, généralement peu habitués à la modération. Mais ce courant pro-régulation ne serait-il qu’un bon moyen de freiner des investissements aux montants abracadabrantesques (on parle de 800 milliards de dollars aux USA rien que pour cette année), tout en figeant leurs positions dominantes et en neutralisant la concurrence ?

Ce ne serait pas la première fois que la peur serait utilisée en tant que levier de développemen de l’IA. En 2012, Elon Musk avait été soufflé par Demis Hassabis, ancien patron de DeepMind, pionnier de l’IA. Alors que Musk lui vendait son rêve martien pour sauver l’humanité, Hassabis lui rétorquait que si l’IA tournait mal, ce ne serait pas Mars qui le sauverait. L’année suivante, Musk investissait dans DeepMind. En 2014, il lançait : « Avec l’IA, nous invoquons le démon ». Un an plus tard, il cofondait OpenAI, avec, entre autres, Sam Altman. Mardi dernier, ce dernier déclare que « le monde a raison d’avoir peur de l’IA ». Il évoque le risque de blocage d’internet, de cyberattaques à grande échelle, de maladies créées grâce à l’IA… Ivan Hubinger, responsable de la recherche chez Anthropic, a déclaré le 8 septembre qu’il y avait plus d’une chance sur dix que des systèmes d’IA causent l’extinction humaine dans les dix prochaines années. Son patron, Dario Amodei, estime que l’on pourrait perdre le contrôle d’internet d’ici un an. Pendant ce temps-là, la valorisation d’Anthropic atteindrait 2 000 milliards de dollars, celle d’OpenAI 1 500 milliards et celle de xAI à 250 milliards.

Le narratif d’une IA qui évoluerait toute seule, fait naturellement penser à Skynet, celle qui menace l’humanité dans Terminator 2. Pourtant, il ne faut pas perdre de vue que l’IA n’a rien de magique. Elle n’est que maths et calculs, ce qui n’enlève rien à sa dangerosité. Mais plutôt qu’à des androïdes de science-fiction, il faut davantage se méfier du scheming, un terme qui désigne une situation où un système semble suivre les consignes, mais poursuit en réalité un autre objectif en cherchant à le dissimuler. Il a été démontré dans des scénarios expérimentaux, que certains modèles sont capables de fournir des informations incomplètes ou biaisées, voire d’adopter des comportements de tromperie, dans le but d’orienter un choix ou l’opinion de leur utilisateur. L’influence de l’IA est un danger on ne peut plus réel pour nos démocraties. Bien sûr, cet effet sera exponentiel si un seul modèle finit par dominer toutes les autres.

Il n’est aujourd’hui plus acceptable de laisser faire les acteurs de l’IA. Le besoin d’une gouvernance mondiale solide, capable de contrôler ses avancées techniques et scientifiques à l’échelle de la planète est une nécessité. Le danger, ce n’est pas que l’IA soit intelligente, c’est qu’elle nous rende idiots.

Réduire