AI2026/11/04 8:07 UTC·2 分で読めます

DSCI、AIエージェントの被害責任を巡る枠組みを提案

インドのDSCIが、自律型AIエージェントによる被害の責任を、意思決定の支配度に応じてバリューチェーン全体で配分する業界枠組みを提案した。

Illustration of an AI agent connected to a chain of companies, with a scale of justice symbolising shared liability. — 画像: Inc42 Media

SUMO：数字パズル

Dialo：話して学ぶ語学アプリ

ediviewer：EDIファイルを文書のように読む

インドのData Security Council of India（DSCI）は、自律型AIエージェントが被害を引き起こした場合の責任を判断する業界向けの枠組みを提案した。各関係者が行った判断と、システムに対する支配の程度に応じて、AIバリューチェーン全体で責任を割り振る考え方だ。

討議資料「AI Liability: Industry Guidance for Agentic AI」は、新たな規制を設けるのではなく、既存の法律、契約上の義務、業種別規制をエージェント型AIに適用するとしている。DSCIは、責任をAIを導入する企業や技術提供者のどちらかだけに負わせるべきではないと主張する。モデルの選定、システム構成、ツールへのアクセス、権限、人による監督といった重要な判断を誰が握っていたかで判断すべきだという。

想定されるリスクと責任の配分

資料によると、従来のAIは人が確認する出力が中心だが、AIエージェントは自ら計画を立て、ツールやAPIを使い、限られた人の関与で指示を実行できる。無許可の取引、誤った支払い、データ漏えいのリスクが高まり、複数のエージェントが連携する場合は誤りが連鎖する恐れもある。DSCIはプライバシー侵害、セキュリティ脅威、差別、ディープフェイク、AIを悪用したサイバー犯罪など12の被害領域を挙げた。

企業向け導入の関係者は、利用組織、サービス提供者・インテグレーター、製品企業・スタートアップ、ツール・フレームワーク提供者、クラウド・インフラ提供者の5つに整理され、モデル提供者は別に扱われる。導入企業はユースケースや権限、人の承認の要否を決める立場にあり、インテグレーターはシステム設計や障害対応を担う。

オープンソースやオープンウェイトのモデルを自社基盤で使う場合は、監査や改変、監視でより大きな責任を負う。管理型APIでクローズドモデルを使う場合は、契約条件や賠償上限次第でモデル提供者に求償できる可能性がある。