Metas KI-Agent „Muse“ pausiert Sharing-Funktion nach Offenlegung sensibler Nutzerdaten
Metas KI-Agent für allgemeine Zwecke, Muse, hat versehentlich sensible Nutzerinformationen offengelegt, wenn Gespräche über Weblinks geteilt wurden. Forscher der Sicherheitsfirma Claroc berichteten, dass über diese geteilten Links eine beträchtliche Menge privater Daten zugänglich war, die von geschäftlichen Finanzüberprüfungen bis hin zu Anträgen auf Privatkredite reichten. Als Reaktion auf Anfragen von Ars Technica bestätigte Meta, dass die Sharing-Funktion pausiert wurde und eine Überprüfung zur Behebung der entdeckten Schwachstellen durchgeführt wird.
Details zur Schwachstelle: GhostShares und Passive DNS
Das Kernproblem liegt darin, wie Muse seine teilbaren URLs erstellt. Obwohl sie mit einer langen, scheinbar nicht erratbaren Zeichenkette konzipiert sind, machten kritische Designentscheidungen diese Links auffindbar. Forscher stellten fest, dass sie durch eine passive DNS-Suche Tausende von geteilten Links aufzählen konnten. Dies wurde durch die Verwendung eines konsistenten Domainnamens, cf.metaaiusercontent.com, und entscheidend durch die Aufnahme des Titels des Gesprächs direkt in die Subdomain der URL erleichtert. Diese Praxis, die Claroc als „GhostShares“ bezeichnet, ermöglicht den Zugriff auf Seiten durch Personen, die den Link nie erhalten sollten und die sie über öffentliche DNS-Einträge finden können.
Claroc-Forscher demonstrierten die Schwere des Problems, indem sie auf eine Vielzahl sensibler Dokumente zugriffen. Beispiele hierfür waren vertrauliche Notizen eines Kandidaten für ein Gespräch mit einer KI-Firma, die interne Umsatzprüfung eines nationalen Marketingunternehmens für seinen CEO, der Kreditantrag eines Kleinunternehmers mit Angabe des angeforderten Betrags, eine To-Do-Liste mit einer Bankbetrugswarnung und teilweisen Kontodaten, ein Leistungsbericht eines Immobilieninvestors mit Immobilienadressen und Finanzkennzahlen sowie ein Urlaubsplan für Mitarbeiter eines Arbeitsplatzes. Die Forscher stellten fest, dass die Sammlung dieser Informationen „eine Abfrage“ erforderte, was die Leichtigkeit der Entdeckung erheblich unterschätzte.
Metas Reaktion und breiterer Kontext
Asaf Aprozper, Mitbegründer und CTO von Claroc, meldete die Ergebnisse am 8. Oktober über Metas Bug-Bounty-Programm, erhielt jedoch keine sofortige Antwort. Meta bestätigte in einer Erklärung den Bericht und sagte: „Wir haben das Muse Bug-Bounty-Programm eröffnet, damit Forscher verschiedene Szenarien aufzeigen und uns helfen können, das Produkt weiter zu verbessern.“ Das Unternehmen erläuterte weiter: „Personen haben die Möglichkeit, bestimmte Muse-Artefakte zu teilen, wodurch eine Seite erstellt wird, auf die Personen mit dem Link zugreifen können. Wir haben diese Funktionalität jedoch pausiert, während wir diesen Bericht prüfen und Änderungen daran vornehmen, wie diese Links entdeckt werden können.“ Dieser Vorfall folgt auf eine frühere Sicherheitsbedenken, bei denen der macOS-Sicherheitsexperte Patrick Wardle eine Zero-Day-Schwachstelle entdeckte, die es anderen Apps auf demselben Gerät ermöglichte, die Kontrolle über das Muse-Konto eines Benutzers zu übernehmen, was Meta heruntergespielt hatte.
Muse hat schnell an Popularität gewonnen und aufgrund seiner Fähigkeit, Aufgaben wie das Ausfüllen von Formularen, das Buchen von Terminen und das Tätigen von Einkäufen autonom auszuführen, Spitzenplätze in App-Stores erklommen. Diese Funktionalität erfordert jedoch einen breiten Zugriff auf die Konten eines Benutzers, was erhebliche Vertrauensimplikationen mit sich bringt. Die Entdeckung der „GhostShares“-Schwachstelle verstärkt die Prüfung, ob Muse den erforderlichen umfangreichen Zugriff rechtfertigt, insbesondere angesichts der früheren Herunterspielung von Sicherheitsproblemen durch Meta. Die Aussetzung der Sharing-Funktion, zumindest vorübergehend, mildert dieses spezifische Risiko für Muse-Benutzer.
