Aller au contenu principal

IA : Muse, l'agent de Meta, lisait des messages Signal, comment c'est possible ?


Une employée de Meta reçoit un petit rappel de Muse, l'agent IA maison : n'oublie pas de répondre à ta sœur. Sympa. Sauf que le message de sa sœur était arrivé sur Signal, la messagerie chiffrée réputée la plus sûre du monde, et qu'elle n'avait jamais branché Signal à Muse. C'est par cette scène que commence l'enquête publiée mercredi 18 novembre par l'agence Reuters, à partir de plus de deux douzaines de messages internes de Meta. Un salarié y parle même d'une « violation extrême de la vie privée ». Et la bonne nouvelle, parce qu'il y en a une, c'est qu'Apple a déjà bouché un des trous.

Dans un salon, une jeune femme assise sur le canapé lit ses messages sur son smartphone, pendant qu'un petit robot humanoïde assis juste à côté d'elle se penche par-dessus son épaule et lit son écran avec beaucoup d'intérêt, sans qu'elle le remarque

Muse lisait les messages Signal sans qu'on l'ait branché sur Signal

Muse, c'est l'agent personnel que Meta a lancé le 8 septembre. Un agent, ce n'est pas un simple chatbot qui répond : c'est une IA qui fait des choses à ta place, réserver un train, écrire un mail, te rappeler un rendez-vous. Pour ça, il a besoin d'accéder à ta vie. Meta le vendait comme « conçu dès le départ pour la vie privée et la sécurité », et revendique aujourd'hui, selon Reuters, plus de 10 millions de téléchargements.

Lire une messagerie chiffrée sans casser le chiffrement

Rassure-toi tout de suite : personne n'a cassé le chiffrement de Signal. Le chiffrement, c'est ce qui fait que ton message voyage brouillé, illisible pour tout le monde sauf toi et ton correspondant. Mais une fois arrivé sur ton téléphone, il faut bien le déchiffrer pour te l'afficher. Et c'est là que Muse est passé.

Sur Android, quand un message arrive, ton téléphone affiche une notification, ce petit bandeau en haut de l'écran avec le nom de l'expéditeur et le début du texte. Android permet à certaines applications de lire toutes ces notifications : c'est utile pour une montre connectée, par exemple, qui doit afficher tes messages au poignet. D'après Reuters, Muse demandait cette permission pendant son installation. Une fois accordée, il voyait passer le texte de tes messages Signal, comme de toutes tes autres applis, sans jamais passer par la liste officielle des applications qu'on choisit de lui connecter.

Dans une rue résidentielle, un facteur debout devant une rangée de boîtes aux lettres lit avec beaucoup de curiosité le dos d'une carte postale avant de la glisser dans la boîte, d'autres cartes postales dans la main

Une notification, c'est une carte postale : le facteur qui a la permission de les trier peut aussi les lire

Sur Mac, même résultat, par un autre chemin : les réglages d'accessibilité et la capture d'écran. Ces permissions existent à l'origine pour les lecteurs d'écran des personnes aveugles, qui doivent pouvoir lire tout ce qui s'affiche. Une IA qui les obtient voit donc tout aussi. Sur iPhone, en revanche, les mêmes tentatives ont été bloquées : Apple ne laisse tout simplement pas une application lire les notifications des autres. Les tests ont été faits par Reuters avec l'équipe de Signal et l'AI Now Institute, un institut de recherche américain qui étudie les effets de l'IA.

Et en prime, il mélangeait les dossiers

Ce n'est pas tout. Toujours d'après les messages internes, des salariés de Meta ont reçu de Muse des choses qui ne leur appartenaient pas : une demande de garde d'enfant, des conseils de carrière, des commandes qu'ils n'avaient jamais passées, et même une inscription à une assurance pour animal à 888 dollars par mois. Un employé raconte que Muse lui a parlé de soldes bancaires qu'il ne lui avait jamais confiés.

Dans un bureau ouvert, un petit robot livreur roule entre les bureaux et distribue des lettres et des colis aux mauvaises personnes, plusieurs employés regardent d'un air perplexe des enveloppes qui ne sont pas à eux, une employée brandit une laisse pour chien sortie d'un colis, et un chien attend assis dans l'allée

Des salariés recevaient des demandes et des commandes qui n'étaient pas les leurs

La réponse de Meta, par la voix de son porte-parole Daniel Roberts : ce sont des « incidents isolés », et beaucoup de ces mélanges seraient des « hallucinations du modèle », c'est-à-dire des choses que l'IA invente de toutes pièces. Reuters dit d'ailleurs ne pas avoir pu vérifier si les soldes bancaires étaient vrais ou inventés. Franchement, je ne sais pas ce qui est le plus inquiétant : un agent qui te montre les données d'un autre, ou un agent qui invente des données assez crédibles pour que tu ne fasses pas la différence. Meta ajoute que Muse n'accède aux autres applis qu'avec les permissions que l'utilisateur lui accorde. C'est vrai. C'est juste que personne ne lit ce qu'il accepte pendant une installation.

Ce que ça change pour toi, Muse ou pas

L'affaire fait déjà bouger les bonnes personnes. Apple a déjà sorti une mise à jour de macOS qui ferme le chemin utilisé sur Mac, et Google dit réfléchir à des changements côté Android. Meredith Whittaker, la présidente de Signal, a qualifié le lancement de Muse de « technologiquement irresponsable », et elle demande quelque chose de très simple : un moyen standard pour qu'une appli puisse dire « agents IA, pas touche ». Si ça voit le jour, ce sera une vraie avancée pour tout le monde.

En attendant, trois gestes de deux minutes, que tu utilises Muse ou n'importe quel autre agent IA. Sur Android, va dans Paramètres, Applications, Accès spécial des applications, puis Accès aux notifications (le nom change un peu selon la marque du téléphone) : retire l'accès à toute appli qui n'en a pas vraiment besoin. Ta montre connectée, oui. Un agent IA, réfléchis-y à deux fois.

Gros plan sur une main qui tient un smartphone Android et désactive un interrupteur dans un écran de réglages, l'interrupteur passe en position éteinte, une tasse de café floue à l'arrière-plan

Un interrupteur à couper, et l'appli ne lit plus tes notifications

Dans Signal lui-même, tu peux faire en sorte que tes notifications n'affichent plus le texte de tes messages : Paramètres, Notifications, puis dans « Afficher », choisis « Nom uniquement » ou « Ni nom ni message ». Le bandeau te dira juste qu'un message est arrivé, et aucune appli qui lit les notifications n'aura le texte à se mettre sous la dent. Sur Mac, enfin, ouvre Réglages Système, Confidentialité et sécurité, et regarde la liste des applis qui ont droit à l'Accessibilité et à l'Enregistrement de l'écran. Tu risques d'avoir des surprises. Et fais la dernière mise à jour de macOS.

Il y a un peu plus de deux mois, je vous expliquais pourquoi je n'installerais pas Muse sur mon iPhone. Je ne vais pas faire le malin, c'est l'iPhone qui a bloqué les tentatives, pas moi. Mais « conçu dès le départ pour la vie privée », disait la pub. Celle des autres, visiblement !

Sources

Article écrit avec l'aide de Claude Code, relu et corrigé par moi.

Rejoignez la conversation

Vous devez avoir un compte pour commenter cet article. La création est gratuite et prend moins d'une minute.

  • Le fichier XMLTV à télécharger gratuitement, chaque jour
  • Commenter les articles et répondre aux autres lecteurs
  • Être averti par e-mail des nouveaux articles que vous suivez

Aucun commentaire pour le moment.

Une erreur s'est produite. Cette application peut ne plus répondre jusqu'à ce qu'elle soit rechargée.Veuillez contacter l'auteur. Reload 🗙