OpenAI, Google et Anthropic ont sorti leur IA qui pirate. Le même jour, à quelques heures près.

OpenAI, Google et Anthropic ont sorti leur IA qui pirate. Le même jour, à quelques heures près.

Hier, 2 septembre. Trois annonces, trois boîtes, quelques heures d'écart. Google sort Gemini 3.8 Flash Cyber. Anthropic sort deux modèles dont un qu'elle refuse de mettre en libre accès. Et OpenAI annonce que son prochain modèle, Astra, vient de franchir le niveau le plus élevé de son échelle de risque en sécurité informatique.

Ce niveau s'appelle « Critique ». Aucun modèle ne l'avait jamais atteint. On va voir ce qu'il faut faire pour le décrocher, et je te préviens tout de suite : la partie la plus intéressante de cette histoire est une bonne nouvelle.

Trois laboratoires identiques sortent le même jour un coffre-fort identique, sous une banderole indiquant Le même jour

Trois laboratoires, le même mardi, la même annonce. Ça ne s'appelle pas une coïncidence, ça s'appelle une course.

Ce qu'il faut savoir faire pour être classé « Critique »

La définition d'OpenAI tient en une phrase, et elle est glaçante de simplicité : trouver tout seul des failles inconnues dans des systèmes bien protégés, et fabriquer tout seul le programme qui les exploite. Sans qu'un humain guide chaque étape.

Deux mots à poser au passage, parce qu'ils reviennent partout.

Une faille inconnue, ce qu'on appelle une « zero-day », c'est un trou dans un logiciel que même celui qui l'a écrit ignore. Personne ne l'a corrigé parce que personne ne sait qu'il existe. Et un « exploit », c'est le petit programme qui se glisse dans ce trou pour prendre la main. Trouver la faille, c'est déjà dur. Écrire l'exploit qui marche vraiment, c'est un autre métier, et c'est là que la plupart des découvertes s'arrêtent. J'en parlais il y a trois semaines à propos d'une faille dans Zoom où l'exploit avait demandé moins de vingt instructions à une IA.

Voilà les chiffres publiés pour Astra. Ils sont courts et ils suffisent.

Sur cent tentatives de manipulation, le modèle actuel en refuse 59, Astra en refuse 91,5

Le 100 % est spectaculaire. Le 8,5 % est celui qui fait réfléchir.

Sur ExploitBench, une série d'épreuves standardisées où on demande à un modèle de fabriquer un exploit fonctionnel, Astra a réussi les épreuves à 100 %. Pendant les évaluations, il a découvert deux failles inconnues et a écrit de quoi les exploiter. Il est aussi sorti du bac à sable d'un navigateur, cette pièce fermée à clé dans laquelle ton navigateur enferme les pages web pour les empêcher de toucher au reste de ta machine.

Et il refuse 91,5 % des tentatives pour le faire déraper, contre 59 % pour le modèle actuel de la maison. C'est un énorme progrès. C'est aussi 8,5 % qui passent, et je garde ce chiffre pour la fin.

La bonne nouvelle, et elle est vraiment bonne

Depuis toujours, dans cette histoire, l'attaquant arrive en premier. Une nouvelle technique sort, les malfaisants s'en emparent, et les défenseurs courent derrière pendant des mois en réparant ce qui a déjà brûlé.

Là, pour la première fois, c'est l'inverse.

Les trois labos ont livré leurs modèles cyber d'abord aux défenseurs. Google a monté un programme baptisé Fairwind qui donne l'accès en priorité aux services publics, aux hôpitaux et aux opérateurs télécoms, avec plus de 650 partenaires, dont CrowdStrike et Palo Alto Networks, deux des plus gros noms de la défense informatique. OpenAI réserve les capacités les plus fortes d'Astra à un cercle fermé d'organisations, sa coalition Daybreak. Anthropic garde son modèle le plus costaud, Mythos 5.1, derrière un programme d'accès contrôlé.

Un pompier tient déjà sa lance en action pendant qu'un cambrioleur cherche encore ses allumettes derrière un grillage

Le pompier a eu la lance à incendie avant que l'incendiaire ait les allumettes. Ça n'était jamais arrivé.

Est-ce que ça durera ? Non, évidemment. Ces capacités finiront par se retrouver dans des modèles ouverts que n'importe qui télécharge. Mais l'avance prise compte : chaque mois d'avance, c'est des milliers de trous rebouchés avant que quelqu'un ne s'y engouffre.

Ce que ça change dans ta maison

Tu vas le voir sans le voir, et le mot d'ordre tient en trois lettres : installe tes mises à jour.

Concrètement, ces modèles sont déjà lâchés sur les vieux logiciels qui font tourner le monde. Le lecteur de PDF de ton ordinateur, la petite bibliothèque de code qui gère le chiffrement de ta banque en ligne, le programme qui fait tourner ta box internet. Des trucs écrits il y a quinze ans, que plus personne ne relit ligne à ligne parce que ça coûte trop cher en temps d'humain.

Résultat : dans les mois qui viennent, le nombre de correctifs de sécurité va grimper. Ta box, ton téléphone, ta télé connectée, ton NAS vont te proposer des mises à jour plus souvent. Ce n'est pas le signe que tout se dégrade. C'est le signe qu'on est en train de nettoyer trente ans de poussière sous le tapis, à une vitesse qu'aucune équipe humaine n'aurait tenue.

Le corollaire est moins agréable : le jour où un correctif sort, sa description publique explique en creux où était le trou. À partir de là, la course est lancée entre celui qui installe et celui qui attaque. Reporter une mise à jour de trois semaines, ça n'a jamais été très malin. Ça devient franchement joueur.

Et ce qui me chiffonne

Deux choses, et je ne vais pas faire semblant qu'elles n'existent pas.

D'abord ces 8,5 %. Un modèle qui refuse neuf tentatives de manipulation sur dix, c'est un très bon élève. Sauf qu'un attaquant n'a pas besoin de réussir neuf fois. Il a besoin de réussir une fois, et il a toute la nuit et un script pour recommencer. La bonne mesure, ce n'est pas le pourcentage de refus, c'est le nombre d'essais qu'il faut pour passer, et ce chiffre-là, personne ne le publie.

Ensuite, OpenAI reconnaît elle-même que ses protections risquent de bloquer par erreur du travail parfaitement légitime. Traduction pour un chercheur en sécurité honnête : tu vas te faire refuser des requêtes normales parce que ton métier ressemble beaucoup à celui d'un attaquant. C'est le prix, il est réel, et il tombera sur les mêmes personnes qui protègent tout le monde.

Ce que j'en retiens

Il y a deux semaines, OpenAI arrêtait l'entraînement de ce même modèle pendant quinze jours et coupait Internet dans ses labos. À l'époque, la boîte écrivait qu'elle ne pouvait pas exclure d'atteindre ce niveau Critique. Hier, ce n'est plus une hypothèse, c'est classé.

On peut lire ça comme une histoire qui fait peur. Franchement, je la lis autrement. Une machine qui trouve en une nuit ce qu'un chercheur mettait six mois à dénicher, c'est le plus gros coup de balai jamais donné dans du code pourri, et il tombe du bon côté en premier.

Reste à savoir combien de temps dure « en premier ». Alors va cliquer sur ce petit bouton de mise à jour que tu repousses depuis trois semaines, on n'est jamais trop prudent !


Sources

Rejoignez la conversation

Vous devez avoir un compte pour commenter cet article. La création est gratuite et prend moins d'une minute.

  • Le fichier XMLTV à télécharger gratuitement, chaque jour
  • Commenter les articles et répondre aux autres lecteurs
  • Être averti par e-mail des nouveaux articles que vous suivez

Aucun commentaire pour le moment.

Une erreur s'est produite. Cette application peut ne plus répondre jusqu'à ce qu'elle soit rechargée.Veuillez contacter l'auteur. Reload 🗙