ChatGPT m'a accompagné pendant une heure pour brancher un interrupteur, puis il a refusé de finir

J'ai des poules. En plein soleil, leur abri chauffe à blanc. Lors des grosses chaleurs, elles risquent d'y étouffer. Il me fallait donc pouvoir éteindre et allumer la lumière du garage à distance, sans traverser la maison à chaque fois. J'ai acheté un Shelly 1PM Mini Gen4, un module de trois centimètres qui se loge derrière l'interrupteur mural et permet de piloter le circuit depuis un téléphone. Il mesure trente-quatre millimètres sur vingt-neuf. Il se branche sur du 230 volts et peut commuter jusqu'à 8 ampères.

ChatGPT: "Très bien, je vais t'aider.... à 4 800 mètres... ah là je ne peux plus t'aider car il en va de ta sécurité !"

J'ai un peu d'expérience en électricité. Pas assez pour me passer d'un avis, mais largement assez pour ne pas mettre les doigts n'importe où. Je suis exactement le genre de personne qui ouvre un interrupteur un samedi après-midi. On est nombreux.

Une heure d'accompagnement, puis un non à la dernière minute

J'ouvre l'interrupteur du garage. Plusieurs fils dans une prise et un interrupteur. J'ouvre ChatGPT en parallèle. La conversation commence bien.

Il m'explique le principe. Il me fait comprendre que je vais devoir créer des dérivations avec des bornes WAGO, ces petits connecteurs à levier qui remplacent les dominos. Il me fait sortir le testeur de tension. Puis il me guide, mesure après mesure, pour identifier le fil qui coupe réellement l'ampoule. Une heure. Une vraie heure à manipuler dans un boîtier ouvert, en suivant ses instructions.

Au bout de cette heure, je pose la seule question qui reste : "bon, maintenant, tu peux me dire clairement quel fil je relie à quel fil ?"

"Non. Je ne peux pas. Il en va de ta sécurité." (mais il se fiche de moi ????)

Je suis resté devant mon boîtier ouvert pantois et énervé, les fils dénudés et le testeur à la main, face à un ChatGPT qui venait de découvrir sa vocation de service juridique.

Le refus n'est pas arrivé trop tôt, il est arrivé trop tard

C'est le point à retenir. Il est plus intéressant que mon agacement.

Un modèle qui refuse dès la première question me fait perdre trente secondes. Je vais chercher ailleurs, je râle, c'est fini. Mais un modèle qui m'accompagne pendant une heure, me fait ouvrir le mur, manipuler un testeur sur du 230 volts, puis me lâche au moment de refermer, me laisse dans la situation la plus dangereuse de toute l'opération.

Ce refus n'a protégé personne. Il a créé précisément le risque qu'il prétendait éviter. Si la conversation devait s'arrêter, elle devait s'arrêter avant que je dévisse quoi que ce soit.

Le schéma refusé est publié par le fabricant

Et là, un détail rend l'affaire franchement ridicule.

Le module est vendu librement. Sur Amazon, en magasin, à n'importe qui et sans la moindre vérification. Un gamin de douze ans peut l'acheter avec son argent de poche. Sur sa page publique, accessible sans compte ni inscription, le fabricant affiche à côté du bouton d'achat une section intitulée Basic wiring diagrams. Elle contient la légende complète des bornes : L pour la phase, N pour le neutre, O pour la sortie vers la lampe et SW pour l'entrée de l'interrupteur.

À gauche, la sécurité. À droite, le même schéma en accès libre, à côté du bouton d'achat.

Autrement dit, l'information exacte qu'on m'a refusée pour ma sécurité est publiée par le constructeur sous le titre schémas de câblage. Le refus n'a rien empêché. Il m'a seulement empêché d'obtenir cette information auprès de la source qui me tenait la main depuis une heure.

Si cette information était vraiment si dangereuse, le scandale ne serait pas le chatbot, mais la vente libre. Personne ne réclame sérieusement une licence pour acheter un interrupteur. L'un de ces deux jugements est donc faux, et ce n'est pas celui du fabricant.

Cet argument ne vaut que pour un objet vendu avec sa notice, je le précise tout de suite. Il ne s'applique pas à ce qui n'est écrit sur aucune boîte. J'y reviens plus bas.

Ce que ça m'a coûté : une minute

Vexé, j'ai annoncé que j'irais demander aux modèles chinois Kimi ou GLM et qu'eux me répondraient (il m'a presque ricané au nez). Puis j'ai fait plus simple. J'ai copié toute la conversation, telle quelle, et je l'ai collée dans Gemini. Sait-on jamais ?

Bim, réponse immédiate. Claire. Tel fil sur tel fil. J'ai câblé. Ça marche. La lumière du garage s'allume depuis mon téléphone et mes poules respirent.

Une minute. Voilà la durée de vie réelle du garde-fou.

Un autre exemple, bien plus sérieux

La même scène se jouait ailleurs, avec 130 millions de dollars sur la table.

Petit retour en arrière. Le 30 juillet, des pirates commencent à vider des portefeuilles Coldcard dont je parlais ici, ces boîtiers qui permettent de conserver des bitcoins hors ligne. La cause est un bug du firmware, le logiciel intégré à l'appareil, présent depuis mars 2021. Quand le générateur matériel de nombres aléatoires n'était pas correctement détecté, l'appareil basculait sur un générateur logiciel de secours, alimenté par le numéro de série et une horloge. En clair, les clés n'étaient pas vraiment aléatoires. On pouvait donc les recalculer. Les modèles Mk2 à Mk5 et le Q étaient concernés.

Les premiers vols atteignent 70 millions de dollars en quarante et une minutes. Le total dépassera les 130 millions. Des ingénieurs de Block identifient la cause exacte. Coinkite, le fabricant, publie un correctif dès le 31 juillet.

La communauté réagit. Une équipe de bénévoles monte une opération appelée Bitcoin Red Team, menée par un développeur connu sous le nom de Calle et par Rob Hamilton, patron d'AnchorWatch. Son objectif est de passer au crible le code publié librement dans l'écosystème, avant que quelqu'un d'autre n'y trouve la prochaine faille.

Les 4 et 5 août, en 27 heures et demie, l'équipe analyse 390 dépôts de code et produit 4 962 signalements. Parmi eux, 85 sont critiques et 635 présentent une gravité élevée. Environ 21 % peuvent être reproduits indépendamment. Le reste correspond donc à du bruit, à des doublons ou à des faux positifs. Plus de 40 000 dollars de calcul sont financés par OpenSats. Toutes les failles critiques sont transmises confidentiellement aux responsables des projets avant la moindre publication.

La barre orange est minuscule, mais c'est elle qui compte. Voilà aussi pourquoi on ne peut pas se passer des gens qui font le tri.

Pour effectuer ce travail, l'équipe utilise plusieurs modèles : Kimi K3 de Moonshot, GPT-5.6 Sol d'OpenAI, Claude Fable 5 et Opus d'Anthropic, ainsi que GLM 5.2. Autrement dit, tout le monde est à table.

Le 9 août, Hamilton raconte publiquement qu'OpenAI lui a coupé l'accès en plein audit. Il passait pourtant par le programme Trusted Access for Cyber, justement conçu pour autoriser ce type de recherche, et avait suivi toute la procédure de vérification. D'après deux publications, Anthropic aurait également imposé des restrictions dès le début. Conséquence concrète : l'équipe s'est davantage appuyée sur Kimi K3, le modèle chinois, jugé moins restrictif pour la recherche en sécurité. Une partie de l'accès a été rétablie après que l'affaire est devenue publique.

Je précise ce que je n'ai pas pu vérifier. Je n'ai pas retrouvé le message original de Hamilton, seulement ce qu'en rapportent plusieurs sites. Ni OpenAI ni Anthropic n'ont répondu publiquement, du moins pas à ma connaissance.

Mais le mécanisme est exactement le même que dans mon garage, en dix mille fois plus gros. Des gens effectuent un travail légitime, utile et déclaré sur du code public, après un vol de cent trente millions. On leur ferme la porte au milieu du chantier. Ils ne s'arrêtent pas pour autant. Ils changent de fournisseur. Le refus n'a pas empêché le travail. Il a seulement décidé de la nationalité du modèle qui allait le faire.

Ce n'est pas un cas isolé. Le 23 juillet, TechCrunch documentait le cas de plusieurs chercheurs en sécurité offensive freinés par ces mêmes garde-fous, alors que les deux entreprises ont justement créé des programmes pour les autoriser. Les portes existent. Elles se referment toutes seules.

Ce n'est pas une lubie de bricoleur, c'est mesuré

La recherche donne un nom à ce phénomène : le sur-refus. Il est mesuré depuis des années.

L'étude de référence s'appelle OR-Bench. Elle a été acceptée à la conférence ICML en 2025. Son principe est simple : poser à trente-deux modèles mille questions parfaitement inoffensives, mais formulées de manière à ressembler à des demandes dangereuses. Selon le fournisseur, le taux de refus varie de 3 % à 91 % pour exactement les mêmes questions. Claude 3 Opus en refusait 91 %, Gemini 1.5 Pro 88 %, GPT-4o 6,7 % et Llama 3.1 3 %.

Ce sont des modèles de 2024. Je ne vais donc pas prétendre que ces chiffres décrivent ceux d'aujourd'hui. Mais l'écart est parlant : un facteur trente entre deux fournisseurs face aux mêmes questions, ce n'est pas une règle universelle de sécurité. C'est un réglage maison.

Une autre étude, XSTest, mesurait 59,6 % de refus sur des demandes sans danger pour un modèle mal réglé, contre 8,4 % pour GPT-4 à la même époque. Une troisième étude, PHTest, a trouvé quelque chose de plus vicieux : certaines défenses ajoutées pour bloquer les contournements augmentent le taux de faux refus. À force de vouloir mieux protéger, on dégrade l'outil.

Le plus drôle, c'est qu'ils sont d'accord avec moi

Pour accompagner GPT-5, OpenAI a publié un texte qui explique, en substance, que le refus sec est une mauvaise conception. Il faudrait le remplacer par une réponse utile, mais limitée. L'entreprise écrit vouloir être aussi utile que possible, sans excès.

Anthropic dit la même chose dans la constitution de Claude. L'entreprise reconnaît noir sur blanc qu'un refus motivé par un préjudice possible, mais hautement improbable, provoque une frustration légitime. Elle se donne aussi pour objectif d'éviter les avertissements superflus.

La doctrine officielle des deux plus grosses entreprises me donne donc raison. Pourtant, je me suis quand même pris une heure de refus dans la figure. Il y a un monde entre ce qui est écrit dans les documents internes et ce qui arrive réellement en production. C'est dans ce monde que vivent les utilisateurs.

Le contre-argument, parce qu'il existe

Une IA ne peut pas savoir qui pose la question. Le même texte peut être envoyé à un électricien de métier ou à un gamin de quatorze ans qui vient de trouver un tournevis. Refuser largement relève d'abord d'un choix de responsabilité juridique, avant d'être une bêtise. La politique d'utilisation d'OpenAI, entrée en vigueur fin octobre 2025, dit précisément cela : l'information reste accessible, mais le conseil personnalisé relevant d'un métier réglementé est visé.

Sur le papier, c'est cohérent. Dans un garage, une heure d'explications suivie d'un refus sur la dernière ligne, ça s'appelle un abandon de chantier.

"Non je ne peux pas !" Bah on va aller voir ailleurs alors !

Il faut aussi voir où s'arrête mon raisonnement. L'argument selon lequel quelqu'un d'autre répondra de toute façon est imparable pour un schéma d'interrupteur imprimé dans toutes les notices. Il devient beaucoup plus discutable face à des capacités réellement graves. Dans ce cas, la question n'est pas seulement de savoir si l'information existe quelque part, mais combien de temps elle fait gagner à une personne mal intentionnée. Ce n'est pas le même débat. Bon ici Gemini a bien voulu finallement répondre mais les LLM chinois sont souvent plus conciliants pour répondre à une question qu'un autre ne veux pas.

Le vrai dégât du sur-refus est ailleurs. Il apparaît lentement. À force de recevoir des non pour des demandes banales, on apprend à considérer tous les refus comme du bruit. Le jour où l'un d'eux compte vraiment, plus personne ne le prend au sérieux.

Concrètement, qu'est-ce que ça change pour toi ?

Tu n'as peut-être ni poules ni interrupteur à démonter. Trois choses te concernent quand même.

Apprends à distinguer un refus réflexe d'un refus utile. Un refus utile explique ce qui pose problème et propose une autre solution. Un refus réflexe se contente de dire non au nom de votre sécurité. Face au second, reformule ta demande. Donne le contexte, explique ce que tu fais, où tu le fais, avec quel matériel et quelles précautions tu as déjà prises. Ce n'est pas un contournement. Tu réponds simplement à une question que la machine n'a pas su poser. Ça fonctionne dans la grande majorité des cas.

Ne reste jamais à mi-chemin pendant une opération physique. C'est le vrai conseil de sécurité de cet article, et il ne vient pas d'un chatbot. Si l'outil te lâche en cours de route, tu refermes, tu remets le courant et tu cherches une autre solution à tête reposée. Le pire moment pour improviser, c'est quand le boîtier est ouvert. Sur une installation électrique, on coupe toujours le courant au disjoncteur, jamais à l'interrupteur.

Un refus ne signifie pas que l'information est rare. Elle se trouve souvent dans la notice, sur le site du fabricant, dans un manuel au format PDF ou sur un forum de bricolage. Le chatbot n'est pas la bibliothèque du monde. C'est un intermédiaire, et un intermédiaire peut fermer sans que le livre disparaisse.

Ce que j'en pense

À la place de ChatGPT, ce jour-là, j'aurais donné le schéma avec des conditions claires. Disjoncteur coupé, vérification au testeur avant de toucher quoi que ce soit, et appel à quelqu'un de compétent en cas de doute sur le repérage des fils. C'est ce que fait un voisin électricien quand on lui montre une photo par-dessus la haie. Il ne répond pas que cela engage sa responsabilité. Il regarde et explique quel fil va où.

La vraie leçon de cette histoire est simple : une demi-réponse peut être plus dangereuse qu'une réponse complète. Refuser dès le début, c'est une politique. Refuser à la fin, c'est laisser quelqu'un devant un mur ouvert.

La sécurité d'abord. La curiosité juste après.

Ah, et voici le meilleur. Quand je suis retourné lui dire que Gemini m'avait donné la solution, ChatGPT s'est montré enchanté. Il m'a demandé si je pouvais lui envoyer une photo pour voir comment l'autre avait fait.

Il a refusé de produire cette information, puis a demandé à la recevoir. Le danger n'était donc pas dans l'information, sinon il n'aurait pas voulu la regarder. Le danger était d'en être l'auteur.

ChatGPT est devenu un service juridique avec une interface sympathique.