Osegi
IA·2 min de lecture

Anthropic lance Message Threads pour accélérer les réponses de Claude

Anthropic déploie Message Threads en bêta publique : les développeurs n'envoient plus que le dernier message à Claude, avec un délai du premier jeton réduit d'environ 35 %.

Developer at a laptop coding with an AI assistant, with chat message threads shown on screen.
Image: اليوم السابع
SUMO Dialo ediviewer giftdetect

Anthropic a lancé Message Threads, une nouvelle fonctionnalité de sa plateforme Claude, en bêta publique. Elle vise à accélérer les réponses de l'assistant lors de longues conversations et de tâches complexes qui manipulent de gros volumes de données. Elle s'adresse aux développeurs qui utilisent les outils de Claude pour créer des agents d'IA.

Le principe consiste à changer la manière dont l'historique parvient au modèle. Au lieu de renvoyer toute la conversation à chaque requête, le développeur n'envoie que le message le plus récent, accompagné de l'identifiant de la réponse précédente du modèle. Le système exploite alors le contexte déjà mis en cache sur le serveur, sans retransmettre les anciens messages par le réseau.

Un premier jeton environ 35 % plus rapide

Selon Anthropic, Message Threads peut réduire d'environ 35 % le délai avant le premier jeton (Time-to-First-Token) pour les requêtes volumineuses, de 500 000 à un million de jetons. L'enjeu est important pour les agents qui rédigent du code pendant de longues sessions, pilotent des ordinateurs ou analysent de grands documents et images.

L'entreprise précise que les tarifs de l'API et les limites d'utilisation restent inchangés, Claude traitant toujours l'intégralité du contexte pour élaborer sa réponse.

Conservation des données et disponibilité

Les conversations sont stockées temporairement dans la mémoire du serveur. Un fil expire cinq minutes après la dernière requête ; le développeur doit alors renvoyer l'historique. Anthropic indique que ces données ne sont pas écrites sur des supports de stockage classiques et qu'elles sont entièrement supprimées dans l'heure suivant la dernière utilisation.

La bêta est disponible sur la Claude Platform et prise en charge par Amazon Web Services, Microsoft Foundry et les modèles gérés par Anthropic sur Google Cloud. Elle est activée par défaut pour la plupart des utilisateurs de Claude Code, mais pas pour les comptes soumis à une politique de rétention zéro des données ni pour ceux qui doivent respecter la norme HIPAA sur les données de santé.

Des apps à découvrir

SUMO : le puzzle de nombres

Touche les bonnes cases, additionne, atteins l'objectif. Facile à apprendre, difficile à maîtriser. Gratuit, pour tous les âges.

Mots-clés:anthropicclaudemessage threadsapiai agentsclaude code

Plus d'actus de ce jour

Tout voir →

Plus dans: IA

Tout voir →