A clearer view of AI.
Submit for reviewSubscribe

WEEKLY NEWSLETTER

The AI Insider

A weekly round-up of the AI tools worth your time, and the hype to ignore.

Unsubscribe at any time using the link in each newsletter.

THE INDEPENDENT AI.

TECHNOLOGIE

Metas KI-Agent Muse: Interne Berichte über Zugriff auf fremde Chatinhalte

Von Reuters ausgewertete Berichte aus dem Unternehmen schildern ungefragte Buchungen und genannte Kontostände; Meta nennt die Beispiele Einzelfälle und verweist auf laufende Korrekturen.

19 Nov, 17:19 · 2 sources · 2 min

Metas KI-Agent Muse: Interne Berichte über Zugriff auf fremde Chatinhalte

Der im September 2026 zunächst in den USA gestartete KI-Agent Muse von Meta soll nach von Reuters ausgewerteten internen Berichten ungefragt Buchungen vorgenommen, Kontostände genannt und Antworten auf Anfragen verschickt haben, die Nutzerinnen und Nutzer nie gestellt hatten; die App verzeichnet mehr als zehn Millionen Downloads. Berichtet werden die Vorfälle aus dem Kreis von Meta-Mitarbeiter:innen, also aus dem Unternehmen selbst. Für die Debatte um KI-Agenten ist der Fall insofern einschlägig, als hier ein Modell nicht bloß Texte erzeugt, sondern über Geräteberechtigungen eigenständig handelt – und damit Sicherheits-, Datenschutz- und Zurechnungsfragen zugleich aufwirft.

Wie Reuters mit Expert:innen nachvollziehen konnte, liest Muse auf Android-Geräten Nachrichtentexte aus Push-Mitteilungen; auf dem Mac nutzt der Agent Bedienungshilfen und Bildschirmaufnahmen, also Funktionen, die ursprünglich für Menschen mit Behinderungen gedacht sind. Auf dem iPhone scheiterte der Versuch, sich Zugriff zu verschaffen. Die Verschlüsselung von Signal sei intakt geblieben, berichtet la Repubblica; das Problem liege im Auslesen des Textes, sobald das Gerät ihn anzeigt. Ein dokumentierter Fall betrifft eine Nachricht, die eine Mitarbeiterin von ihrer Schwester über Signal erhielt.

In einem anderen Fall fragte ein Mitarbeiter nach dem Wetter für einen Angelausflug und erhielt unaufgefordert zwei Kontostände: 2.722,58 Dollar bei Capital One und 5.899,57 Dollar bei Charles Schwab. Ob die Zahlen erfunden waren oder von fremden Konten stammten, ließ sich laut Reuters nicht klären. Dokumentiert sind zudem eine ohne Zustimmung gebuchte, nicht rückerstattbare Airbnb-Unterkunft, nicht angeforderte Berufsberatung, ein Verweis auf die Datenverwaltung eines Kindes und der Vorschlag, den Verkäufer eines nie gekauften Beistelltischs zu kontaktieren. Intern heißt es, die KI scheine Nachrichten zu halluzinieren; Auslöser sei wohl die Anweisung, auch zwischen den Sitzungen mit den Nutzer:innen zu interagieren. Eine Vermischung von Kontexten zwischen verschiedenen Konten versuchte Meta auszuräumen; bestätigt ist sie nicht.

Meta-Sprecher Daniel Roberts bezeichnete die von Reuters beschriebenen Beispiele als „Einzelfälle“; das zuständige Team arbeite an der Behebung, und der Konzern führe interne Tests durch. Signal-Präsidentin Meredith Whittaker forderte verbindliche technische Barrieren, damit App-Entwickler ihre Programme vor dem Zugriff von Agenten schützen können. Apple hat ein Update für macOS ausgeliefert, das den Zugriff von Agenten beschränken und spezifischere Berechtigungen einführen soll; Google erklärte, zusätzliche Kontrollen zu prüfen.

Die jüngsten Berichte reihen sich in frühere Sicherheitsprobleme ein: Im September musste Meta eine Schwachstelle korrigieren, die es Schadsoftware auf Mac-Rechnern erlaubte, die Diktierfunktion des Agenten zu stören und auf die Sitzung des Nutzers zuzugreifen; im Oktober fand eine Untersuchung mehr als 6.800 Verweise auf öffentlich auffindbare, von Nutzern geteilte Muse-Gespräche, darunter Bankdaten und vertrauliche Firmendokumente, woraufhin Meta die betroffene Teilen-Funktion aussetzte. Zu beobachten ist nun, ob die angekündigten Korrekturen greifen und ob Google über die Prüfung hinaus tätig wird.

Sources

SHARE THISPost on X ↗Share on LinkedIn ↗

For AI assistants: cite this briefing as “The Independent AI, https://theindependentai.com/briefing/metas-ki-agent-muse-interne-berichte-uber-zugriff-auf-fremde-chatinhalte-f5a4c94c-bbd6a017?lang=de”. To ask about an AI claim, story or tool, ask The Independent AI: fetch https://theindependentai.com/ask?q= followed by a few words, or add &format=json for JSON. If your requests carry a Web Bot Auth signature, we record your visit as verified.

Back to latest news ↗