Signal暗号コードをDeepMindのAIが4週間で検証

Signalのコードの形式検証とは何か

形式検証とは、テストではなく数学でソフトウェアが意図どおりに動くことを示す手法だ。最も強い安全保証とされるが、遅く手間がかかる。暗号プロトコルの検証は設計段階で止まることが多い。DeepMindは実際の実装まで確認したといい、現実のバグが潜むのはまさにそこだと説明する。広く使われるプロトコルの実装が、AIの有無を問わず形式検証されたのは初めてだとしている。

AlphaProof Codeの仕組み

システム名はAlphaProof Code。複数のAIモデルと人間の専門家を組み合わせた枠組みだ。研究者とAIがSignalの安全目標を形式仕様に直し、人間がそのすべてを確認した。Gemini Carbonで動くエージェントは、Leanで600万行を超える証明を書いた。Leanは、コンピューターが証明を自動検査できる言語だ。

その後エージェントは自分の成果を監査し、人間の再確認が必要な約1%のコードに印を付けた。証明には、端末が一時的に侵害されても、その前後のメッセージが守られるといった性質が含まれる。

実際にバグを見つけられるのか

Signalの対象部分から新たな脆弱性は見つからなかった。良いコードと悪いコードを区別できるか確かめるため、過去に修正された実在のバグ2件を、隔離したコードに戻した。DeepMindによると、どちらも「安全ではない」という機械検証済みの証明が出たという。

限界もある。Signalアプリ全体は検証されておらず、Signal Foundationによる先行の形式検証がDeepMindに有利に働いたとも指摘されている。SignalのCTOであるEhren Kret氏は、従来は小さな部分が中心で、DeepMindの手法は大幅な拡張を可能にすると述べた。

DeepMindのSwarat Chaudhuri氏は、AIが目標も証明も作る「自作自演の試験」は避けたいと話す。そのため仕様と印の付いた箇所は人間が確認した。コストや拡張性は不明で、今回は無償の研究プロジェクトとして実施され、商用化の予定も示されていない。成果物のソースは公開され、将来は医療機器のファームウェアや電力網のソフトにも応用できる可能性があるという。