Moonshot、Kimi K3.1 Proのハッキング能力を意図的に制限

中国のAIスタートアップMoonshot AIは、最新モデル「Kimi K3.1 Pro」のハッキング能力を意図的に制限した。同社は10月24日に同モデルを発表し、約3兆パラメータのオープンウェイトモデルと説明している。

オープンウェイトモデルでは、開発者がモデルファイルをダウンロードし、自社環境で動かしたり、挙動を改変したりできる。Moonshotによると、攻撃的なサイバー作戦を行う能力を下げるため、学習データと強化学習環境からサイバー関連のデータを取り除いた。一方で、一般的なコーディング能力は維持したという。重みは11月4日に公開される予定だ。

社内テストで能力低下を確認

同社の社内テストでは、制御された環境でソフトウェアの脆弱性を見つけて悪用するサイバーセキュリティ・ベンチマークで、Kimi K3.1 Proは81%を記録した。リスク低減策を施していない同等のバージョンは90.5%で、差は9.5ポイントとなる。ただし結果は第三者による検証を受けておらず、前世代モデルは上回っているとされる。

同じAI能力は防御にも攻撃にも使える。セキュリティチームは犯罪者より先にソフトウェアの弱点を見つけられる一方、攻撃者もコードを書き、ツールを操作し、複数手順のタスクをこなすモデルで攻撃の一部を自動化できる。Moonshotはオープンウェイトが、放置された古いソフトウェアの点検と保護に役立つと主張する。しかしファイルが広く出回れば、開発元は利用者や安全対策の維持状況を管理しにくくなる。

政策課題にも

政府や企業は、高性能AIが高度なサイバー攻撃を安価で容易にすることを懸念している。中国はAIによるマルウェア生成技術や、一部のAI支援型脆弱性発見ツールを対象とした輸出規制を提案しており、意見公募の対象となっている。個人情報や金融システム、重要インフラを守る組織への圧力が高まる一方、AIセキュリティ研究を厳しく制限しすぎれば脆弱性が見逃されかねない。

Kimi K3.1 Proは100万トークンのコンテキストウィンドウを備える。標準モデルの2〜3倍速いとする「Highspeed」版も用意された。11月4日の重み公開後、研究者が能力を詳しく検証できるようになり、安全対策が独立利用の段階でも有効かが問われる。