Anthropic gardait 30 jours les conversations de ses clients. Elle vient de reculer.

Anthropic gardait 30 jours les conversations de ses clients. Elle vient de reculer.

Depuis juin, tout ce que les entreprises tapaient dans les gros modèles d'Anthropic restait trente jours sur les serveurs de la maison. Tout. Les questions, le code, les documents collés dans la fenêtre. Impossible d'y couper, y compris pour ceux qui payaient précisément pour que rien ne soit gardé.

Mardi, la boîte a fait machine arrière. Et la solution qu'elle propose est plus intelligente qu'un simple « bon, d'accord, on efface ».

Deux bureaux côte à côte, un socle vide chez le fournisseur et le même coffre-fort installé chez le client, qui en tient la clé

Le coffre n'a pas disparu. Il a juste déménagé dans le bureau du client.

D'abord, pourquoi elle gardait tout ça

Il faut rendre à Anthropic ce qui lui appartient : la raison n'était pas commerciale. Ces trente jours servaient à repérer les gens qui se servent du modèle pour attaquer d'autres machines. Et la boîte s'était engagée par écrit à ne jamais utiliser ces données pour entraîner ses modèles.

Le contexte, c'est celui dont je parlais hier : ces modèles sont devenus très forts pour trouver des failles et écrire de quoi les exploiter. Quand tu mets un outil pareil entre les mains de n'importe qui, tu as envie de savoir ce que les gens en font. Garder le trafic un mois, c'est la façon la plus simple de repérer celui qui prépare un mauvais coup.

Sur le papier, c'est défendable. Dans la vraie vie, ça a cogné très vite.

Ce que ça a cassé

Il existe une option, dans ce métier, qui s'appelle la conservation zéro. Traduction : ce que tu envoies est traité, la réponse t'est rendue, et rien n'est stocké. Ni chez le fournisseur, ni ailleurs, ni une heure.

Cette option n'est pas un caprice de paranoïaque. C'est souvent une obligation. Un cabinet d'avocats ne peut pas laisser traîner le dossier de son client sur le serveur d'un tiers. Un hôpital ne peut pas laisser filer un compte rendu médical. Une banque a un régulateur qui vient vérifier, sur pièces, où vivent ses données.

En imposant ses trente jours, Anthropic a supprimé cette option pour ses meilleurs modèles. Résultat immédiat : ces clients-là ont arrêté de les utiliser. Microsoft, qui est pourtant un partenaire de poids, a restreint l'usage en interne.

Un vendeur présente une machine flambant neuve, une responsable la refuse poliment en tenant un classeur intitulé Nos règles d'abord

Le meilleur outil du marché, poliment laissé sur le pas de la porte.

Et la partie que je trouve remarquable, c'est qu'Anthropic l'avait écrit elle-même, noir sur blanc, dans son propre rapport : la règle serait impopulaire auprès des clients habitués à la conservation zéro, et représenterait un risque réel pour la réussite de l'entreprise, surtout si les concurrents ne suivaient pas. Elle a vu le mur, elle a documenté le mur, elle a roulé dedans quand même.

La sortie, et elle est maligne

La nouvelle formule s'appelle Enterprise Frontier Safeguards. Derrière le nom pompeux, l'idée tient en une phrase : les trente jours restent, mais les données ne vont plus chez Anthropic.

Elles restent chez le client, dans son propre espace de stockage en ligne, chez Amazon, Microsoft ou Google selon ce qu'il utilise déjà. C'est lui qui pose le cadenas, lui qui détient la clé, lui qui décide qui a le droit de regarder, et lui qui garde le journal de qui a regardé quoi.

Avant, les dossiers quittaient la maison vers un grand bâtiment d'inspection. Maintenant, ils restent dans la maison et l'inspecteur passe sans rien emporter

Avant, les données allaient voir l'inspecteur. Maintenant, l'inspecteur passe à domicile et repart sans rien emporter.

La surveillance tourne toujours, mais elle est automatique et aucun humain d'Anthropic ne vient lire par-dessus l'épaule. Le service est gratuit. Il arrive par étapes à partir de cet automne, et en attendant, les clients concernés peuvent déjà utiliser le dernier modèle en conservation zéro.

Ce renversement est joli sur le plan technique. On a longtemps cru qu'il fallait choisir entre surveiller et respecter la confidentialité. Ici, on déplace simplement le lieu : au lieu de faire venir les données vers le contrôle, on envoie le contrôle vers les données. C'est la même logique que le médecin qui se déplace au domicile plutôt que de faire venir le patient à l'hôpital, et ça ouvre une voie que les autres vont regarder de près. OpenAI teste d'ailleurs une approche voisine de son côté.

Et si tu n'es ni une banque ni un hôpital ?

Tu n'auras pas ce bouton dans ton abonnement, et pourtant cette histoire te concerne, pour une raison simple : elle rappelle la question qu'on oublie tous de se poser.

Quand tu colles un bout de texte dans une IA au travail, où part ce texte, et pour combien de temps ? Le contrat de ton employeur avec le fournisseur, tu ne l'as jamais lu. Le paramètre qui décide de tout ça, tu ne l'as jamais vu. Et il peut changer en juin sans que personne ne te prévienne, exactement comme ici.

Deux réflexes valent le détour. Le premier : avant de coller un document sensible, un contrat, une fiche de paie, un dossier client, demande-toi si tu l'enverrais par courriel à un prestataire extérieur. Si la réponse est non, l'IA n'est pas différente. Le second : dans les réglages de ton outil, va chercher la ligne qui parle de l'usage de tes conversations pour l'entraînement. Elle existe presque toujours. Elle n'est jamais mise en évidence. J'avais d'ailleurs raconté le jour où Claude a ouvert le carnet de notes qu'il tient sur toi, et c'est le même réflexe : va voir ce qui est stocké, tu seras surpris.

Ce que j'en retiens

Une boîte qui écrit dans son propre rapport « cette décision va nous coûter des clients », qui la prend quand même, puis qui passe des centaines d'heures avec plus de cent entreprises pour trouver une porte de sortie, ce n'est pas le comportement habituel du secteur. D'habitude, on nous explique que c'était très bien comme ça, ou on change la règle en silence un jeudi soir.

Reste le vrai enseignement, et il est pour nous tous : ce sont les clients qui ont fait plier la boîte. Pas un régulateur, pas un tribunal, pas une pétition. Des entreprises qui ont simplement arrêté de payer et sont allées voir ailleurs. Il n'y a pas de meilleur bouton de vote que celui-là !


Sources

Rejoignez la conversation

Vous devez avoir un compte pour commenter cet article. La création est gratuite et prend moins d'une minute.

  • Le fichier XMLTV à télécharger gratuitement, chaque jour
  • Commenter les articles et répondre aux autres lecteurs
  • Être averti par e-mail des nouveaux articles que vous suivez

Aucun commentaire pour le moment.

Une erreur s'est produite. Cette application peut ne plus répondre jusqu'à ce qu'elle soit rechargée.Veuillez contacter l'auteur. Reload 🗙