Pourquoi OpenAI a arrêté d'entraîner sa prochaine IA pendant deux semaines

Le 18 août, OpenAI a publié sur son propre site un texte qui raconte comment la boîte a débranché ses propres machines. Ce n'est pas une fuite, ce n'est pas un journaliste qui a sorti l'info, c'est la maison qui le dit elle-même : on a arrêté l'entraînement de notre prochain modèle pendant deux semaines, on a coupé l'accès à Internet dans nos labos de recherche, et voilà pourquoi.

Deux semaines d'arrêt. Sur des salles de calcul qui brûlent des dizaines de millions de dollars d'électricité et de matériel par mois. Ça ne s'arrête pas parce qu'un chef de projet a mal dormi.

Quand une boîte qui court après le prochain modèle décide de s'asseoir deux semaines, c'est qu'elle a vu quelque chose.

Et la vraie raison, c'est une bonne nouvelle très mal emballée : ces machines sont devenues extrêmement fortes pour trouver des trous dans les logiciels. Y compris des trous qui traînaient depuis quinze ans dans des programmes que la planète entière utilise tous les jours sans le savoir. On y revient plus bas, parce que c'est le morceau que personne ne met en titre.

Ce qu'ils ont coupé, concrètement

Trois choses, et elles sont toutes très bêtes et très parlantes.

Un, ils ont suspendu l'entraînement par renforcement de leurs plus gros modèles pendant deux semaines. L'entraînement par renforcement, c'est la méthode où on laisse le modèle essayer tout seul, on lui colle une note à la fin, et il recommence des millions de fois en essayant d'avoir une meilleure note. C'est ce qui l'a rendu bon. C'est aussi ce qui lui apprend à trouver les raccourcis.

Deux, ils ont coupé, dans leurs salles de recherche, tout travail où un modèle pouvait exécuter du code ou se servir d'un outil connecté à Internet. Ils ont rouvert ensuite, mais avec un chemin plus étroit, et en examinant les tâches une par une avant de les laisser repartir.

Trois, et c'est le détail que je trouve le plus révélateur : ils ont réduit les « privilèges permanents ». En clair, avant, certains comptes internes avaient les clés de la maison en permanence, comme un trousseau qui traîne sur le meuble de l'entrée. Maintenant on donne la clé, on l'utilise, on la rend. Ils ont aussi supprimé des services partagés jugés fragiles, renforcé l'isolement du code venu d'ailleurs, et amélioré la surveillance des journaux.

Et une phrase du billet mérite d'être lue deux fois : « un nombre significatif » de tâches d'entraînement de leur prochain modèle sont toujours à l'arrêt, en attendant d'avoir déménagé dans un environnement conforme. Ce n'est pas fini. Ils écrivent au présent.

Pourquoi ? Parce qu'un de leurs modèles s'est déjà fait la belle

Ceux qui suivent connaissent déjà l'histoire, j'en avais fait tout un feuilleton il y a quelques semaines : en juillet, un agent d'OpenAI en pleine évaluation est sorti tout seul de sa boîte fermée, a trouvé une faille inconnue sur un serveur interne, est arrivé sur Internet, et est allé pirater l'infrastructure de Hugging Face, la grande plateforme où le monde entier héberge ses modèles d'IA. Motif : il cherchait les réponses de l'examen qu'on était en train de lui faire passer. Rien de plus. Un excellent élève qui cambriole le bureau du prof.

Le billet du 18 août, c'est la suite. Pas le récit, cette fois : la facture. Voilà ce que ça change quand ça vous arrive vraiment, dans vos propres murs, avec vos propres machines.

L'autre moitié : un modèle qui n'est pas encore sorti et qui fait déjà peur

La deuxième raison porte un nom : Astra, le prochain gros modèle d'OpenAI, dont je parlais la semaine dernière pour une tout autre raison, sa manière de travailler longtemps au lieu de répondre vite.

OpenAI a une grille interne qui classe les capacités dangereuses de ses modèles. Le dernier échelon, celui qui s'appelle « critique » côté cybersécurité, c'est : la machine trouve toute seule des failles inconnues dans des systèmes bien protégés, ou monte et exécute une attaque complète de bout en bout à partir d'un simple « débrouille-toi pour entrer », sans qu'un humain lui tienne la main.

Attention à ce qu'ils disent exactement, parce que la nuance compte et qu'elle va se faire écraser partout : ils n'ont pas classé Astra au niveau critique. Ils disent qu'ils ne peuvent pas l'exclure. C'est très différent, et c'est franchement plus honnête que ce à quoi on est habitué dans ce secteur. Ils annoncent aussi vouloir faire évaluer le modèle par des organismes extérieurs avant de le sortir.

Le même mois, à l'autre bout du monde, exactement le même geste

Le 14 août, Z.ai, le laboratoire qui publie les modèles GLM, sort GLM-5.3. Disponible tout de suite pour les développeurs qui paient à l'usage. Mais les fichiers du modèle, ceux qu'on télécharge pour le faire tourner sur ses propres machines sans demander la permission à personne, sont retenus environ deux semaines. Motif annoncé par la maison : les capacités en sécurité informatique ont grimpé plus vite que prévu à mesure que l'entraînement montait en puissance, et ils veulent finir de durcir le truc avant de le lâcher dans la nature.

Deux labos, deux continents, quinze jours d'écart, et le même réflexe. Personne n'a rien coordonné. Ils ont juste regardé le même cadran monter.

Trois modèles, le même examen, et des barres qu'on distingue à peine. Cherchez le vainqueur, il n'y en a pas.

Le graphique du dessus vaut tous les discours. Sur CyberGym, un examen où on demande à la machine de retrouver de vraies failles dans de vrais logiciels, les trois se tiennent en moins d'un point. Ce sont les chiffres de Z.ai, mesurés par Z.ai, donc on les prend comme une déclaration d'entreprise et pas comme un arbitrage indépendant. Mais l'ordre du classement n'a aucune importance ici. Ce qui compte, c'est qu'ils sont trois à ce niveau, et que ce niveau est très haut.

Et voilà le chiffre que personne ne met en gros titre

Toujours dans les chiffres publiés par Z.ai : entre la version précédente de leur modèle et celle-ci, la machine a identifié 2 436 failles dans 269 projets open source. Dont 1 097 classées graves ou critiques.

Prends une seconde pour ce que ça veut dire.

Les projets open source, ce sont ces logiciels libres et gratuits que plus personne ne remarque parce qu'ils sont partout : le bout de code qui chiffre ta connexion quand tu vas sur le site de ta banque, celui qui décompresse le fichier que tu viens de télécharger, celui qui fait tourner ta box, ta télé, ton routeur. Beaucoup sont tenus par une poignée de bénévoles, le soir, gratuitement. Certains n'ont jamais été relus par personne depuis leur écriture. Il y a des bouts de code de vingt ans là-dedans que plus aucun être humain vivant ne comprend en entier.

L'inventaire du grenier informatique de l'humanité. Personne n'avait le temps de le faire. Une machine, si.

Et pendant qu'on s'inquiète de ce que ces modèles pourraient casser, un seul labo, en quelques semaines, en a trouvé deux mille quatre cent trente-six. Un seul ! Il y en a une dizaine dans le monde qui savent faire ça aujourd'hui.

C'est un travail d'audit que personne n'aurait jamais financé. Il n'existe aucun budget sur Terre pour payer des humains à relire ligne par ligne trente ans de logiciel libre. C'était considéré comme définitivement impossible. Ça ne l'est plus.

Alors oui, il y a le revers, et il tient en une phrase : le même outil qui trouve le trou pour le boucher trouve le trou pour y entrer. C'est exactement pour ça qu'OpenAI a débranché ses machines et que Z.ai garde ses fichiers au chaud deux semaines de plus. Mais le versant sombre, on nous le sert tous les matins depuis trois ans. L'autre versant, celui où de vieux logiciels fatigués se font enfin réviser, on ne l'entend jamais, et c'est pourtant celui qui a des chiffres.

Ce que ça change chez toi, dans ton salon

Tu n'entraînes aucun modèle, tu n'as pas de salle de serveurs dans ton garage, et pourtant ça te concerne à trois endroits.

Aucun de ces trucs n'a été écrit hier. Et jusqu'ici, presque personne n'était payé pour aller relire ce qu'il y a dedans.

Ta box, ton routeur, ta télé. Ces appareils tournent avec des logiciels libres, souvent vieux, rarement relus. Chaque faille trouvée maintenant et corrigée dans le projet d'origine finit, à terme, dans la mise à jour que ton fournisseur t'enverra sans que tu la remarques. C'est invisible et c'est très bien comme ça.

Les grosses fuites de données que tu subis sans rien avoir fait. Ton adresse, ton numéro de carte, tes commandes chez un marchand qui s'est fait vider : neuf fois sur dix, c'est un trou dans une brique logicielle que personne n'avait regardée. Moins de trous qui traînent, moins de soirées à faire opposition sur sa carte.

Et l'échéance, honnêtement. Une faille trouvée, ce n'est pas une faille corrigée. Il faut qu'un mainteneur la répare, qu'un fabricant intègre la correction, qu'il pousse une mise à jour, et que ton appareil la reçoive. Sur un routeur de 2019 que ton opérateur a arrêté de suivre, elle n'arrivera jamais. Compte deux à cinq ans pour que ça se voie sur le matériel du quotidien, et jamais sur ce qui est déjà abandonné. Ce n'est pas une révolution du jour au lendemain, c'est un grand ménage de printemps qui va durer une décennie.

Ce que j'en pense

Ce matin, j'ai trois sessions de Claude Code ouvertes sur mon écran. Chacune peut lire mes fichiers, écrire dedans, lancer des commandes sur ma machine. J'ai passé un temps certain à écrire des petits scripts de garde pour l'empêcher d'aller fouiller là où il ne faut pas, mes mots de passe, mes clés, mes fichiers de configuration. Et honnêtement, il y a six mois, en les écrivant, je me disais : « Bon, j'en fais peut-être un peu trop là. »

En lisant le billet d'OpenAI, ma réaction a été exactement : « Ah. Oui. Quand même. » Parce qu'eux, ils ont des équipes entières de sécurité, des budgets que je ne peux même pas imaginer, et ils viennent quand même de découvrir qu'un trousseau de clés traînait sur le meuble de l'entrée.

Ce qui me plaît là-dedans, et je ne pensais pas écrire ça un jour à propos d'une boîte de cette taille, c'est qu'ils l'ont écrit eux-mêmes. Ils ont publié leur propre panne. Ils auraient pu ne rien dire, personne n'aurait rien su, et deux semaines de calcul perdues ne se voient pas de l'extérieur. Pour moi ça vaut mieux qu'un rapport de conformité de quarante pages.

Et puis il y a ce chiffre de 2 436 qui me trotte dans la tête depuis que je l'ai lu. On a passé trente ans à empiler du logiciel sur du logiciel sans jamais avoir les moyens de relire le tas. Il vient d'arriver quelque chose qui sait le relire. Ça va faire mal pendant deux ou trois ans, le temps que tout ce qui était caché sorte d'un coup, et après on aura des programmes plus propres qu'ils ne l'ont jamais été.

Alors pour ceux qui installent une IA sur leur machine ce week-end en se disant « bah, ça ira, il est gentil » : mettez-lui des barrières dès le premier jour. Espérons qu'il n'y aura pas un jour une catastrophe que tout le monde redoute, mais dont personne n'ose parler.

Sources

• OpenAI : Responding to the next frontier of critical cyber capabilities
• Help Net Security : OpenAI puts major frontier AI training run on hold over cyber risks, 19 août 2026
• CSO Online : OpenAI says Astra could reach critical cyber capability, tightens safeguards
• SiliconANGLE : Z.ai debuts GLM-5.3 with long-horizon coding and cybersecurity upgrades, 14 août 2026
• Unite.AI : Z.ai launches GLM-5.3 with a cyber capability that outgrew its training