Harbor、1000万ドル調達 AIエージェントのリスクを測定・保険化

継続的に測定し、違反を遮断

Harborはまず、企業が本番環境で稼働させているエージェントを洗い出す。次に各エージェントを、業務を正しく遂行するか、だまされたりデータを漏えいしたりしないか、適用される規則を守っているかの3点で評価する。さらに、エージェントの判断を社内ルールと照合し、違反するものは実行前に遮断する。残るリスクは保険でカバーする。

評価は一度きりではなく、モデルやツール、データが変わるたびにやり直す。枠組みはスタンフォードなどと共同で開発し、NIST AI RMF、SR 26-2、EUのAI規則に沿っているという。

背景にある保険と規制

同社によると、米国では2026年1月から、保険会社が一般賠償責任保険に生成AIの標準的な免責条項を加えられるようになった。欧州では規制が後押しし、7月には欧州中央銀行が監督対象の銀行にAI関連の脅威への計画を求めた。

Harborは銀行や保険など規制の厳しい業種に絞る方針で、すでにスペインの企業と取り組んでいる。調達資金はリスク基盤の開発、保険引受能力の拡大、サンフランシスコとスペインでの採用に充てる。