Osegi
AI·1 분 소요

Anthropic, Claude 메시지 스레드 베타로 대기 35% 단축

Anthropic이 API에 메시지 스레드 공개 베타를 도입했습니다. 대화 전체를 다시 보낼 필요가 없어 매우 긴 세션에서 응답 대기 시간이 약 35% 줄어듭니다.

Developer screen showing a long AI agent conversation being sent to Claude through an API
이미지: TNW | Anthropic

Anthropic은 월요일 Claude 기반 AI 에이전트를 개발하는 개발자를 위해 API 베타 기능 '메시지 스레드'를 출시했습니다. 에이전트는 요청할 때마다 전체 대화를 다시 보내지 않아도 됩니다.

코딩 에이전트는 한 세션에서 수백 건의 요청을 보낼 수 있습니다. 보통 요청마다 이전 메시지와 도구 실행 결과가 모두 포함됩니다. 기록이 수십만 토큰에 이르면 이를 매번 다시 보내는 과정이 Claude가 답변을 시작하기까지의 지연을 키웁니다.

새 메시지만 전송

스레드를 쓰면 에이전트는 전체 대화를 한 번만 보냅니다. 이후에는 새 메시지와 Claude의 직전 응답 ID만 보냅니다.

Anthropic은 코딩 에이전트 Claude Code 사용자 대부분에게 이미 스레드를 적용했습니다. 회사에 따르면 50만~100만 토큰 요청에서 Claude가 답하기 시작할 때까지의 일반적인 대기 시간이 약 35% 줄었습니다.

시간은 아끼지만 비용은 그대로

이 기능은 시간을 줄여 줄 뿐 비용을 줄이지는 않습니다. Claude는 매 턴 전체 대화를 읽으며, 요금과 속도 제한은 달라지지 않는다고 회사는 밝혔습니다. 비용 측면에서는 긴 에이전트 세션이 AI 요금을 끌어올리는 상황에서 9월에 캐시 가격을 75% 인하한 바 있습니다.

스레드는 메모리에 암호화되어 보관되며 디스크에는 저장되지 않습니다. 마지막 요청 후 5분이 지나면 만료되므로 개발자는 대화 사본을 직접 보관해야 합니다. 제로 데이터 보존이나 HIPAA 의료 데이터 환경에는 적용할 수 없습니다.

베타는 모든 Claude 모델에서 작동하며 Anthropic 자체 플랫폼은 물론 AWS, Microsoft Foundry, Google Cloud를 통해서도 쓸 수 있습니다. 9월 출시된 저렴한 Opus 5.5 모델에 이은 행보입니다.

주목할 만한 앱

SUMO: 숫자 퍼즐

올바른 칸을 고르고 더해 목표 숫자를 맞추세요. 배우긴 쉽고 마스터하긴 어렵습니다. 무료, 전 연령.

태그:anthropicclaudeclaude codeapiai agentsmessage threads

같은 날의 다른 뉴스

전체 보기 →

관련 카테고리: AI

전체 보기 →