Anthropic、AI応答の出所を証明するFlashProveを公開

仕組み

方式の中心は、モデルの重みを明かさずに、そのモデル固有の「指紋」を公開する点にある。事業者は事前にモデルに対するコミットメントを作成し、各応答に、入力と出力がそのモデルで生成されたことを示す証明を添える。利用者は重みや高い計算能力がなくても検証でき、Anthropicは利用者自身の端末で実行できるほど軽量に設計したとしている。

用途はエンドユーザーに限らない。外部サービスがソフトウェアのセキュリティスキャンを高性能モデルで行ったと証明したり、独立した評価者や規制当局が、提供されているモデルが申告どおりか監査したりすることも想定される。

性能とコスト

同社は4000億パラメータのLlama 4 Maverickで検証した。H100 GPU 1基で毎秒約110トークン分の証明を生成でき、1024トークンのリクエストあたりの証明ファイルは約19MB。モデルを直接実行する場合と比べ、GPU時間は70〜95倍に増える。

技術報告書、プロトコル定義、動作するコードはApache 2.0ライセンスで公開された。FlashProveは完成品ではなく、Anthropicに現時点で導入の計画はない。