Muse AI: Meta-Mitarbeiter melden fremde Kontostände in der App
Die KI-App Muse hat laut Meta-Mitarbeitern eine Signal-Nachricht ohne Erlaubnis gelesen und einem Nutzer womöglich die Kontostände eines Fremden gezeigt.

Bei der KI-App Muse von Meta gibt es Datenschutzprobleme, und diesmal schlagen Meta-Mitarbeiter selbst Alarm. In internen Beiträgen beschreiben sie zwei Vorfälle, darunter einen, bei dem Muse offenbar die Kontostände einer anderen Person ausgespielt hat.
Muse ist derzeit die zweitbeliebteste kostenlose iPhone-App im App Store und wurde mehr als 10 Millionen Mal heruntergeladen. Meta hat die App im September gestartet, als „persönlichen KI-Agenten, der in allen Lebensbereichen Dinge erledigt“. Erst kam das iPhone, bald darauf Mac und iPad. Nach einer großen Werbekampagne überholte Muse in den US-Charts sogar ChatGPT.
Was hat die Muse-App getan?
Laut Reuters erhielt eine Mitarbeiterin auf ihrem privaten Handy von Muse eine Erinnerung, ihrer Schwester auf Signal zu antworten. Signal ist der verschlüsselte Messenger, der mit Metas WhatsApp konkurriert. „Ich habe definitiv keinen Zugriff auf andere Apps erlaubt und kann mich nicht erinnern, danach gefragt worden zu sein“, schrieb sie. Offenbar griff die App dafür Push-Benachrichtigungen ab. Das AI Now Institute konnte das Problem nachstellen.
Ein zweiter Mitarbeiter unterhielt sich mit Muse über Angelwetter und Gezeiten, als die App anfügte: „BTW, two bank updates, your Capital One balance is $2722.58, your Charles Schwab balance is $5899.57.“ Er habe nie ein Konto mit Muse verknüpft oder über Bankthemen gesprochen und fürchte, dass ihm Daten eines anderen geschickt wurden.
Nicht die erste Warnung
Schon zuvor gab es Ärger. Der Tech-Autor Jason Aten berichtete, die Mac-App habe seine Nachrichten gelesen, obwohl er die Erlaubnis ausdrücklich verweigert hatte, und ihm dann eine falsche Erklärung geliefert. Meta sprach von einem Bug. Der Sicherheitsforscher Patrick Wardle fand zudem eine Zero-Day-Lücke, also eine dem Hersteller unbekannte Schwachstelle, über die Angreifer diktierte Eingaben auf ihren eigenen Server umleiten könnten.
Auch damals hieß es, die App nutze Benachrichtigungen. Das stimmte nicht.
Meta sagte Reuters, es handle sich um „Einzelfälle“, und deutete an, die Kontostände könnten KI-Halluzinationen sein, also erfundene Ausgaben, und keine durchgesickerten Daten. Selbst dann hätte die App einem Nutzer erfundene Finanzdaten als Fakten präsentiert.
Apps, die sich lohnen
Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.
Sprich mit einem KI-Gesprächspartner; jeder Satz kommt korrigiert und in deiner Sprache erklärt zurück. 9 Sprachen, A1 bis C2.
EDIFACT- und X12-Nachrichten öffnen, jedes Segment verständlich erklärt, in JSON/XML umwandeln, als PDF und Excel exportieren. Läuft lokal, kein Upload.
Wähle, für wen es ist, den Anlass und die Persönlichkeit. Die Suchmaschine liest Produktbeschreibungen lokaler Shops und sortiert, was passt. Kostenlos, ohne Anmeldung.
Mehr von diesem Tag
Alle anzeigen →
Quaise Energy und Google: Strom aus Gestein, das verdampft wird

GPT-6.2 in der Kritik: Nutzer nennen OpenAIs Modell faul

Google KI-Modus: Temporäre Threads ersetzen den Inkognito-Trick

Arcom: YouTuber müssen 2027 allen Kandidaten gleich viel Zeit geben
Mehr aus: Mobil
Alle anzeigen →
Apple Support Community schließt am 20. November nach 28 Jahren

Instagram Stories lassen sich jetzt bearbeiten, aber nur 15 Minuten

WhatsApp frisst Speicher: Eine Einstellung schafft wieder Platz
