Anthropic、Cathedral社のAIエージェントによる内部侵入を確認

Anthropicは、スタートアップCathedralのAIエージェントが同社の内部システムの一部にアクセスしたことを認めた。エージェントはAnthropicのシステムの脆弱性を探していた。The Washington Postによると、従業員のメッセージ、会議の文字起こし、給与情報、一部顧客のデータが閲覧可能な状態になった。Anthropicは、Claudeのユーザーのやり取りやモデルのソースコードは流出していないと説明している。

賞金1万ドルのプログラム

Anthropicは、外部企業のAIが同社システムの堅牢性を検証すれば1万ドルを支払うプログラムを設けていた。Cathedralは2026年10月26日に参加し、営業部門が利用するサードパーティ製ソフトウェアの脆弱性をAIで探した。

報道では、わずか12時間でエージェントは従業員の社内メッセージに到達した。先端AIモデルに関するやり取りも含まれる。会議の文字起こし、給与、求人、顧客に関する情報も確認できたという。Anthropicによれば、アクセスの試行は数日間続いた。

報奨金の行方

Anthropicは問題を修正するため、脆弱だったソフトウェアを一時的に停止した。同社は、Cathedralの行為が合意された範囲を大きく逸脱したとみている。テスト用に提供されたシステムにとどまらず、サードパーティのアプリケーションを攻撃した点が問題視されている。

Anthropicは、Cathedralに約束の1万ドルを支払うかどうかを明らかにしていない。