AI2026. 11. 4. 오후 1:41 UTC·1 분 소요

Anthropic, AI 응답 출처 증명하는 FlashProve 공개

Anthropic이 AI 응답이 공급자가 밝힌 모델에서 나왔음을 암호학적 증명으로 보여주는 오픈소스 프로토타입 FlashProve를 공개했습니다.

Illustration of a cryptographic proof seal attached to an AI model response on a screen. — 이미지: Webrazzi

Anthropic이 AI 모델의 응답이 실제로 명시된 모델에서 생성됐는지 검증하는 오픈소스 시스템 FlashProve를 공개했습니다. 이 프로토타입은 각 응답이 특정 모델에서 나왔다는 사실을 암호학적 증명으로 보여주는 것을 목표로 합니다.

이를 통해 사용자는 서비스 제공업체가 비용을 줄이려고 더 저렴한 모델을 쓰지 않았는지, 또는 공격자가 응답을 바꾸지 않았는지 확인할 수 있습니다.

작동 방식

시스템은 모델 가중치를 공개하지 않은 채 해당 모델 고유의 지문을 게시하는 방식입니다. 제공업체가 먼저 모델에 대한 커밋먼트를 만들고, 이후 각 응답에 입력과 출력이 그 모델에서 생성됐음을 보여주는 증명을 함께 제공합니다. 사용자는 모델 가중치나 높은 연산 성능 없이도 증명을 검증할 수 있습니다. Anthropic은 검증이 사용자 기기에서 가능할 만큼 가볍게 설계됐다고 밝혔습니다.

활용처는 일반 사용자에 그치지 않습니다. 외부 서비스가 소프트웨어 보안 점검을 고성능 모델로 수행했음을 입증할 수 있고, 독립 평가 기관과 규제 당국도 제공되는 모델이 표기된 모델과 같은지 감사할 수 있습니다.

성능과 비용

Anthropic은 4,000억 개 파라미터의 Llama 4 Maverick으로 시스템을 시험했습니다. H100 GPU 한 장으로 초당 약 110토큰에 대한 증명을 만들 수 있으며, 1,024토큰 요청당 증명 파일은 약 19MB입니다. 모델을 직접 실행할 때보다 GPU 시간은 70~95배 늘어납니다.

회사는 기술 보고서와 프로토콜 정의, 작동하는 코드를 Apache 2.0 라이선스로 공개했습니다. FlashProve는 아직 완성된 제품이 아니며, Anthropic은 현재 이를 도입할 계획이 없습니다.