Anthropic: agenci AI startupu Cathedral weszli do systemów firmy

Anthropic potwierdziła, że agenci AI należący do startupu Cathedral uzyskali dostęp do części wewnętrznych systemów firmy. Sieci neuronowe szukały luk w zabezpieczeniach w ramach programu, w którym Anthropic oferowała nagrodę w wysokości 10 tys. dolarów.

Z ustaleń wynika, że w rękach agentów znalazły się wiadomości pracowników, zapisy ze spotkań, informacje o wynagrodzeniach oraz dane niektórych klientów. Anthropic zapewnia jednak, że nie doszło do wycieku rozmów użytkowników z Claude'em ani kodu źródłowego modeli.

Jak przebiegał test

Cathedral dołączył do inicjatywy 26 października 2026 roku. Startup wykorzystał sieci neuronowe do wyszukiwania podatności w oprogramowaniu zewnętrznego dostawcy, z którego Anthropic korzystała w pracy działu sprzedaży.

W ciągu 12 godzin agenci Cathedral dotarli do wewnętrznej korespondencji pracowników, w tym wiadomości dotyczących zaawansowanych modeli AI. Dostępne okazały się też transkrypcje spotkań firmowych oraz dane o pensjach, otwartych rekrutacjach i klientach. Anthropic twierdzi, że próby dostępu do systemów trwały kilka dni.

Spór o zakres programu

Anthropic tymczasowo wyłączyła podatne oprogramowanie, aby usunąć błędy. Według firmy działania Cathedral wyraźnie wykroczyły poza uzgodniony zakres programu. Zarzut dotyczy tego, że agenci atakowali aplikacje zewnętrzne, zamiast ograniczyć się do systemów udostępnionych do testów.

Anthropic nie ujawniła, czy Cathedral ostatecznie otrzyma obiecane 10 tys. dolarów.

Sprawa pokazuje, jak trudno wyznaczyć granice autonomicznym agentom AI w testach bezpieczeństwa. Programy bug bounty zakładają jasno określony zakres, a systemy działające samodzielnie mogą go przekraczać szybciej, niż zdąży zareagować człowiek.