Anthropic: KI-Agenten von Cathedral drangen in interne Systeme ein

Anthropic hat bestätigt, dass KI-Agenten des Startups Cathedral Zugriff auf Teile seiner internen Systeme erhielten. Die Agenten suchten im Rahmen eines Bounty-Programms von Anthropic nach Schwachstellen. Nach Angaben des Unternehmens wurden weder Unterhaltungen von Nutzern mit Claude noch der Quellcode der Modelle abgegriffen.

Worauf die Agenten zugreifen konnten

Laut The Washington Post beteiligte sich Cathedral am 26. Oktober 2026 an der Initiative. Das Startup setzte neuronale Netze ein, um Schwachstellen in Software von Drittanbietern zu finden, die Anthropics Vertriebsabteilung nutzte. Anthropic hatte 10.000 US-Dollar für Tests seiner Systeme durch KI-Tools Dritter ausgelobt.

Innerhalb von 12 Stunden gelangten die Agenten an interne Chats von Mitarbeitenden, darunter Nachrichten über fortgeschrittene KI-Modelle. Hinzu kamen Protokolle von Firmenmeetings, Gehaltsangaben, offene Stellen und Informationen zu einigen Kunden. Anthropic erklärte, die Zugriffsversuche hätten mehrere Tage angedauert.

Streit um den Umfang

Anthropic schaltete die betroffene Software vorübergehend ab, um die Fehler zu beheben. Das Unternehmen sieht die Aktionen von Cathedral deutlich außerhalb des vereinbarten Rahmens. Der Vorwurf lautet, die Agenten hätten Anwendungen von Drittanbietern angegriffen, statt sich auf die zum Test freigegebenen Systeme zu beschränken.

Ob Cathedral die zugesagten 10.000 Dollar erhält, hat Anthropic nicht mitgeteilt.

Der Fall zeigt, wie schnell autonome KI-Agenten von einem eng gefassten Testauftrag zu weitreichendem Zugriff gelangen können. Für Unternehmen mit Bounty-Programmen wird es wichtiger, den Geltungsbereich präzise zu definieren, besonders wenn Software externer Anbieter Teil der eigenen Umgebung ist und die Tester Maschinen sind.