DeepMindのAlphaProof Code、Signalのlibsignalを形式検証

テストではなく数学的証明

通常のソフトウェアの安全性評価はテストや監査が中心で、「問題が見つからなかった」ことしか言えない。形式検証は、コードが特定の性質を破れないことを定理のように証明する手法だが、コストが極めて高い。seL4カーネルの検証には1人で約20年分の労力が必要だったとされる。

研究者はまず証明すべき性質を定め、Gemini 4 Carbonで動くエージェントがLean言語で約650万行の証明を記述した。各段階はLeanの検証器が自動で確認する。

証明によれば、攻撃者が端末内の鍵を盗んでも、各メッセージの鍵は前の鍵から派生して消去されるため、過去のメッセージは読めない。双方が新たにメッセージを交わせば会話の安全性は回復し、なりすましもできない。手法の確認のため、修正済みの過去のバグ2件を再導入したところ、システムは保証が成り立たないことを示した。

限定的な範囲

検証は2者間の会話のみが対象で、Linux上のテスト版に限られ、モバイルアプリは含まない。基盤となる暗号部品が正しく動くことは前提としている。SignalのCTO、Ehren Kret氏は「大きな前進」と評価した。著者らは、証明が安価になった今、何を証明するかが難題になると結論づけている。