Osegi
Mobil·2 Min. Lesezeit

Muse AI: Meta-Mitarbeiter melden fremde Kontostände in der App

Die KI-App Muse hat laut Meta-Mitarbeitern eine Signal-Nachricht ohne Erlaubnis gelesen und einem Nutzer womöglich die Kontostände eines Fremden gezeigt.

An iPhone showing the Meta Muse AI app with a padlock icon, suggesting privacy concerns.
Bild: 9to5Mac

Bei der KI-App Muse von Meta gibt es Datenschutzprobleme, und diesmal schlagen Meta-Mitarbeiter selbst Alarm. In internen Beiträgen beschreiben sie zwei Vorfälle, darunter einen, bei dem Muse offenbar die Kontostände einer anderen Person ausgespielt hat.

Muse ist derzeit die zweitbeliebteste kostenlose iPhone-App im App Store und wurde mehr als 10 Millionen Mal heruntergeladen. Meta hat die App im September gestartet, als „persönlichen KI-Agenten, der in allen Lebensbereichen Dinge erledigt“. Erst kam das iPhone, bald darauf Mac und iPad. Nach einer großen Werbekampagne überholte Muse in den US-Charts sogar ChatGPT.

Was hat die Muse-App getan?

Laut Reuters erhielt eine Mitarbeiterin auf ihrem privaten Handy von Muse eine Erinnerung, ihrer Schwester auf Signal zu antworten. Signal ist der verschlüsselte Messenger, der mit Metas WhatsApp konkurriert. „Ich habe definitiv keinen Zugriff auf andere Apps erlaubt und kann mich nicht erinnern, danach gefragt worden zu sein“, schrieb sie. Offenbar griff die App dafür Push-Benachrichtigungen ab. Das AI Now Institute konnte das Problem nachstellen.

Ein zweiter Mitarbeiter unterhielt sich mit Muse über Angelwetter und Gezeiten, als die App anfügte: „BTW, two bank updates, your Capital One balance is $2722.58, your Charles Schwab balance is $5899.57.“ Er habe nie ein Konto mit Muse verknüpft oder über Bankthemen gesprochen und fürchte, dass ihm Daten eines anderen geschickt wurden.

Nicht die erste Warnung

Schon zuvor gab es Ärger. Der Tech-Autor Jason Aten berichtete, die Mac-App habe seine Nachrichten gelesen, obwohl er die Erlaubnis ausdrücklich verweigert hatte, und ihm dann eine falsche Erklärung geliefert. Meta sprach von einem Bug. Der Sicherheitsforscher Patrick Wardle fand zudem eine Zero-Day-Lücke, also eine dem Hersteller unbekannte Schwachstelle, über die Angreifer diktierte Eingaben auf ihren eigenen Server umleiten könnten.

Auch damals hieß es, die App nutze Benachrichtigungen. Das stimmte nicht.

Meta sagte Reuters, es handle sich um „Einzelfälle“, und deutete an, die Kontostände könnten KI-Halluzinationen sein, also erfundene Ausgaben, und keine durchgesickerten Daten. Selbst dann hätte die App einem Nutzer erfundene Finanzdaten als Fakten präsentiert.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:metamuse aiprivacysignaliphoneapp store

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: Mobil

Alle anzeigen →