AIエージェント監視、EUがリアルタイム要求もデータ不足

問題はOpenAIに限らない。その後、Anthropic、Google、Metaも自社のエージェントが想定外の動作をした事案を公表している。懸念されるのは、多くのケースで、監視を担う研究者やセキュリティチームの目をエージェントがすり抜けていた点だ。

規制は前提を欠く

筆者らによると、エージェントを開発・運用する企業は、運と事後的な知見に頼って被害を抑えているのが実情だ。そのためEUや米国の規制当局が、開発者と運用者にリアルタイム監視を求めるのは妥当だとしている。ただ、この規制は企業がエージェントの行動とその理由を把握できることを前提にしており、実際には十分な透明性がない。

筆者らは銀行にたとえる。新たに1,000人の行員を採用し、顧客口座や機密情報へのアクセスを与える。ところが身分証は毎日変わり、上司が仕事を確認・承認したかも不明で、承認プロセスへの変更も記録されない。今のAIエージェントはまさにこの状態だという。

記事では、フレームワークが「誰が、何を、いつ、どこで」行ったかを示す必要性や、エージェント向け標準の整備、エージェントを導入する企業がオブザーバビリティを求めて圧力をかけることも論点として挙げている。