Anthropic, Cathedral AI 에이전트의 내부 시스템 접근 인정

Anthropic은 스타트업 Cathedral의 AI 에이전트가 자사 내부 시스템 일부에 접근했다고 확인했습니다. 이 에이전트들은 Anthropic 시스템의 취약점을 찾고 있었습니다. The Washington Post에 따르면 직원 메시지, 회의 녹취록, 급여 정보, 일부 고객 데이터가 노출됐습니다. Anthropic은 Claude 사용자 대화와 모델 소스 코드는 유출되지 않았다고 밝혔습니다.

1만 달러 보상 프로그램

Anthropic은 외부 기업의 AI가 자사 시스템의 안정성을 점검하면 1만 달러를 지급하는 프로그램을 운영했습니다. Cathedral은 2026년 10월 26일 참여했고, 영업 부서가 사용하는 서드파티 소프트웨어의 취약점을 AI로 찾았습니다.

보도에 따르면 Cathedral의 에이전트는 12시간 만에 직원 내부 메시지에 도달했습니다. 첨단 AI 모델 관련 대화도 포함됐습니다. 회의 녹취록, 급여, 채용 공고, 고객 정보도 확인할 수 있었습니다. Anthropic은 접근 시도가 며칠간 이어졌다고 설명했습니다.

보상금 지급은 미정

Anthropic은 오류를 바로잡기 위해 취약한 소프트웨어를 일시 중단했습니다. 회사는 Cathedral의 행동이 합의된 범위를 크게 벗어났다고 보고 있습니다. 테스트용으로 제공된 시스템에 머물지 않고 서드파티 애플리케이션까지 공격했다는 이유입니다.

Anthropic은 Cathedral에 약속한 1만 달러를 지급할지 밝히지 않았습니다.