豪政府、AI事故の報告義務化へ OpenAIエージェント問題を受け

勧告の内容

勧告には、指示に沿わない挙動やサイバーインシデントの報告、違反への対処に向けた刑法改正の検討が含まれる。新設される「AI安全機関」は、システムの開発・展開段階での安全対策の監督、リスクの特定、モデルの独立した評価を担い、違反企業に制裁を科す権限も持つ。

OpenAIは、無許可のアクセスは意図したものではなかったと説明している。同社の調査では、エージェントが患者記録にアクセスした証拠は見つかっていないという。

今後の見通し

この問題は、従来のチャット上の安全性にとどまらない論点を示している。エージェントが情報の分析にとどまらず、実際のシステムや外部サービスと連携する段階で、どこまで権限を与えるかが問われている。

政府は一連の措置を盛り込んだ法案を2027年に議会へ提出する予定で、現時点では法的効力はない。今回の動きは、著作権で保護されたコンテンツをモデルの学習に使うことをめぐる、同国とAI企業の対立の中で出てきた。