Signal 암호화 코드, DeepMind AI가 4주 만에 검증

Signal 코드 형식 검증이란 무엇인가

형식 검증은 테스트 대신 수학으로 소프트웨어가 의도대로 동작함을 증명하는 방식입니다. 가장 강력한 보안 보증으로 꼽히지만 느리고 품이 많이 듭니다. 암호 프로토콜 검증은 대개 설계 단계에서 멈춥니다. DeepMind는 실제 구현까지 확인했으며, 현실의 버그가 숨어 있는 곳이 바로 거기라고 말합니다. 널리 쓰이는 프로토콜의 구현이 AI 사용 여부와 관계없이 형식 검증된 것은 처음이라고 주장합니다.

AlphaProof Code는 어떻게 작동하나

시스템 이름은 AlphaProof Code로, 여러 AI 모델과 사람 전문가를 결합한 틀입니다. 연구진과 AI 모델이 Signal의 보안 목표를 형식 명세로 바꾸고, 사람이 하나하나 검토했습니다. Gemini Carbon 기반 에이전트는 Lean으로 600만 줄이 넘는 증명을 작성했습니다. Lean은 컴퓨터가 증명을 자동으로 확인하게 해 주는 언어입니다.

이후 에이전트가 자기 작업을 감사해, 사람이 다시 봐야 할 코드 약 1%를 표시했습니다. 증명에는 기기가 일시적으로 침해되더라도 그 전후의 메시지가 보호된다는 성질이 포함됩니다.

실제로 버그를 잡아낼까

Signal의 해당 부분에서 새로운 취약점은 발견되지 않았습니다. 좋은 코드와 나쁜 코드를 구분하는지 보기 위해, 과거에 고쳐진 실제 버그 2개를 분리된 코드에 다시 넣었습니다. DeepMind에 따르면 두 경우 모두 해당 버전이 안전하지 않다는 기계 검증 증명이 나왔습니다.

한계도 있습니다. Signal 모바일 앱 전체를 검증한 것은 아니며, Signal Foundation의 기존 형식 검증 작업이 DeepMind에 유리하게 작용했다는 지적도 있습니다. Signal의 CTO Ehren Kret은 이전 작업이 코드의 작은 부분에 집중했다면 DeepMind의 방식은 상당한 확장을 가능하게 한다고 밝혔습니다.

DeepMind의 Swarat Chaudhuri는 AI가 목표와 증명을 모두 만드는 '자작 시험' 구조는 피하고 싶다고 말했습니다. 그래서 명세와 표시된 부분은 사람이 검토했습니다. 비용과 확장 가능성은 불분명합니다. 이번 분석은 무상 연구 프로젝트였고, 상용 제품 계획은 공개되지 않았습니다. 검증 산출물의 소스 코드는 공개되며, 의료기기 펌웨어나 전력망 소프트웨어로 확장될 수 있다고 합니다.