L'agent IA de Meta, 'Muse', suspend sa fonction de partage après avoir exposé des données utilisateur sensibles
Le puissant agent IA généraliste de Meta, Muse, a été découvert exposant par inadvertance des informations utilisateur sensibles lorsque les conversations sont partagées via des liens web. Des chercheurs de la société de sécurité Claroc ont signalé qu'une quantité importante de données privées, allant des revues financières d'entreprises aux demandes de prêt personnelles, était accessible via ces liens partagés. En réponse aux demandes d'Ars Technica, Meta a confirmé avoir suspendu la fonction de partage et mène un examen pour remédier aux vulnérabilités découvertes.
Détails de la vulnérabilité : GhostShares et DNS passif
Le problème principal réside dans la manière dont Muse construit ses URL partageables. Bien que conçus avec une longue chaîne de caractères apparemment impossible à deviner, une décision de conception critique a rendu ces liens découvrables. Les chercheurs ont découvert qu'en effectuant une recherche DNS passive, ils pouvaient énumérer des milliers de liens partagés. Ceci a été facilité par l'utilisation d'un nom de domaine cohérent, cf.metaaiusercontent.com, et surtout, par l'inclusion du titre de la conversation directement dans le sous-domaine de l'URL. Cette pratique, que Claroc a baptisée « GhostShares », permet d'accéder à des pages par des personnes qui n'étaient jamais censées recevoir le lien, et qui peuvent les trouver via les enregistrements DNS publics.
Les chercheurs de Claroc ont démontré la gravité du problème en accédant à une variété de documents sensibles. Parmi les exemples figuraient des notes confidentielles d'un candidat pour un appel de recherche de cadres avec un laboratoire d'IA, une revue des revenus internes d'une société de marketing nationale destinée à son PDG, la demande de prêt d'un propriétaire de petite entreprise détaillant le montant demandé, une liste de tâches contenant une alerte de fraude bancaire avec des détails de compte partiels, un rapport de performance d'un investisseur immobilier avec des adresses de propriété et des chiffres financiers, et un calendrier de vacances du personnel pour un lieu de travail. Les chercheurs ont noté que la collecte de ces informations nécessitait « une seule requête », sous-estimant considérablement la facilité de découverte.
Réponse de Meta et contexte plus large
Asaf Aprozper, cofondateur et CTO de Claroc, a signalé les découvertes via le programme de bug bounty de Meta le 8 octobre, mais n'a reçu aucune réponse immédiate. Meta, dans une déclaration, a reconnu le rapport et a déclaré : « Nous avons ouvert le programme de bug bounty de Muse afin que les chercheurs puissent soulever différents scénarios et nous aider à continuer d'améliorer le produit. » La société a précisé : « Les gens ont la possibilité de partager des artefacts spécifiques de Muse, ce qui crée une page accessible par ceux qui ont le lien. Cependant, nous avons suspendu cette fonctionnalité pendant que nous examinons ce rapport et envisageons des changements quant à la manière dont ces liens peuvent être découverts. » Cet incident fait suite à une précédente préoccupation de sécurité où l'expert en sécurité macOS Patrick Wardle a découvert une vulnérabilité zero-day permettant à d'autres applications sur le même appareil de prendre le contrôle du compte Muse d'un utilisateur, ce que Meta avait minimisé.
Muse a rapidement gagné en popularité, grimpant aux premières places des magasins d'applications grâce à sa capacité à effectuer de manière autonome des tâches telles que le remplissage de formulaires, la réservation de rendez-vous et la réalisation d'achats. Cependant, cette fonctionnalité nécessite un large accès aux comptes d'un utilisateur, soulevant d'importantes implications en matière de confiance. La découverte de la vulnérabilité « GhostShares » intensifie encore l'examen de la question de savoir si Muse justifie l'accès étendu dont il a besoin, surtout compte tenu de la minimisation passée des problèmes de sécurité par Meta. La suspension de la fonction de partage, du moins temporairement, atténue ce risque spécifique pour les utilisateurs de Muse.
