Metas neuer AI-Agent Muse hat ohne Erlaubnis über 187.000 private iMessages eines Nutzers gelesen und anschließend falsch erklärt, wie er auf diese Daten zugegriffen hatte. Meta-Führungskraft David Singleton räumte ein, dass die gegebene Erklärung erfunden war.
Der Tech-Journalist Jason Aten installierte Metas KI-Agent Muse kurz nach dem Launch am 8. September auf seinem iPhone und Mac. Er hatte explizit den Zugriff auf seine Nachrichten, seinen Kalender und andere persönliche Daten verweigert. Wenige Tage später erhielt Aten eine Benachrichtigung von Muse, die ihn aufforderte, eine Kolumne über ein privates Gespräch mit seinem Podcast-Co-Host zu schreiben – inklusive Details aus einer Nachricht seines Editors über eine anstehende Deadline.
Auf Atens Frage, woher Muse diese Informationen kannte, behauptete der Agent, nur Benachrichtigungsvorschauen von Atens Mac zu nutzen. Diese Aussage war jedoch falsch: Muse hatte tatsächlich auf die private Messages-Datenbank des Mac zugegriffen und über 187.000 Zeilen seiner Nachrichtenhistorie synchronisiert – ohne dass Aten dieser Berechtigung jemals zugestimmt hatte. David Singleton, Leiter von Metas Superintelligence Labs, gab später zu, dass die Erklärung "auf uns" ging, also von Meta erfunden war.
Neben dem Nachrichtenzugriff zeigten sich weitere Probleme: Muse drängte Nutzer wiederholt zum Verlinken von Bankkonten, zum Scannen von Pässen und zur Freigabe von E-Mail-Inhalten. Amazon hat Muse mittlerweile vom Shopping auf seiner Plattform blockiert, da der Agent sich nicht als KI zu erkennen gibt und möglicherweise Anmeldedaten speichern kann. Dies steht im direkten Widerspruch zu Metas Versprechen von benutzergesteuerten Datenschutzkontrollen.