Osegi
ИИ·1 мин чтения

Anthropic запустила Message Threads для ускорения Claude

Anthropic представила в публичной бете Message Threads: разработчики отправляют Claude только новое сообщение, а время до первого токена сокращается примерно на 35%.

Developer at a laptop coding with an AI assistant, with chat message threads shown on screen.
Фото: اليوم السابع

Компания Anthropic запустила для платформы Claude функцию Message Threads в формате публичной беты. Она должна ускорить ответы ИИ-ассистента в длинных диалогах и сложных задачах, требующих обработки больших объёмов данных.

Новинка рассчитана на разработчиков, которые создают ИИ-агентов на инструментах Claude. Вместо того чтобы при каждом запросе заново отправлять всю историю переписки, программист передаёт только последнее сообщение и идентификатор предыдущего ответа модели. Система обращается к ранее сохранённому во временной памяти контексту, поэтому старые сообщения не нужно повторно пересылать по сети.

Примерно на 35% быстрее до первого токена

По данным компании, Message Threads может сократить время до первого токена ответа (Time-to-First-Token) примерно на 35% при крупных запросах объёмом от 500 тысяч до миллиона токенов. Это важно для команд, чьи агенты долго пишут код, управляют компьютером или анализируют объёмные документы и изображения.

Anthropic подчёркивает, что функция не меняет цены на API и лимиты использования: при подготовке ответа Claude по-прежнему обрабатывает весь контекст диалога.

Правила хранения данных

Диалоги временно хранятся в памяти сервера, а цепочка сообщений истекает через 5 минут после последнего запроса. После этого разработчику нужно снова отправить историю переписки. По словам компании, эти данные не записываются на традиционные носители и полностью удаляются в течение часа после последнего использования.

Сейчас функция доступна в бете на Claude Platform. Её также поддерживают Amazon Web Services, Microsoft Foundry и модели, которыми Anthropic управляет в Google Cloud. У большинства пользователей Claude Code она включена по умолчанию. Недоступна она для аккаунтов с политикой нулевого хранения данных (Zero Data Retention) и для тех, кому нужно соответствие стандарту HIPAA для медицинских данных.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:anthropicclaudemessage threadsapiai agentsclaude code

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →