Nvidia: resumir el contexto mantiene el rendimiento de agentes IA
Investigadores de Nvidia muestran que resumir la conversación a mitad de tarea conserva casi todo el rendimiento de los agentes de IA y cuestiona los contextos largos.
SUMO· el puzle de números
Dialo· aprende idiomas hablando
ediviewer· lee archivos EDI como documentos
giftdetect· el regalo adecuado en minutosLos agentes de IA mantienen la mayor parte de su rendimiento cuando se resume y acorta la conversación a mitad de una tarea. Así lo afirman doce investigadores de Nvidia en un artículo publicado el 3 de noviembre en arXiv, que cuestiona la idea de que más contexto siempre es mejor.
El contexto es la cantidad de conversación y material que un modelo considera de una vez al responder. Los autores comprobaron que los tokens generados después cuestan más cuanto más largo es el contexto. Según el resumen del artículo, la diferencia puede llegar a 7 veces en modelos recientes de pesos abiertos. Con 256K de contexto en lugar de 16K, el coste por token generado fue 3,6 veces mayor en GLM 5.2 de Z.ai, 5,6 veces en Kimi K2.6 de Moonshot AI y 7 veces en Qwen3 Coder Next de Alibaba.
Qué mostraron las pruebas
Los investigadores hicieron que los agentes resumieran su historial al alcanzar cierta longitud y siguieran trabajando. Usaron sobre todo Claude Opus 4.5 de Anthropic y GPT 5.6 Sol de OpenAI en seis evaluaciones de tareas largas, entre ellas SWE-bench Verified, Terminal-Bench 2.1, FRAMES y BFCLv3. En 22 configuraciones con distintos límites de contexto y umbrales de resumen, como máximo cinco quedaron más de 2 puntos por debajo de la referencia.
Con una sola acción por turno y solo el estado comprimido de la tarea, Claude Opus 4.5 pasó de 70,0 a 70,2 en SWE-bench Verified, mientras que GPT 5.6 Sol bajó de 84,4 a 82,4. En LOONG, con 1.600 preguntas, Claude Opus 4.5 obtuvo con todos los documentos una media de 70,1 y un 38,9 % de respuestas totalmente correctas. Al seleccionar y resumir lo necesario por debajo de 16.000 tokens, subió a 79,3 y 53,4 %.
Advertencias
Los resultados no fueron homogéneos. En un apéndice, Qwen3 Coder Next con resumen a 16K pasó de un 53,0 % a un 3,6 % de éxito en SWE-bench, un hundimiento que el artículo califica de catastrófico.
Los autores también proponen un «Semantic State Space Model», que lee un estado de tarea en lenguaje natural, actúa y lo reescribe. Es solo un concepto: no se entrenó ni se evaluó. Según el resumen, los hallazgos ponen en duda la necesidad de los modelos de lenguaje de contexto largo.
Apps que merecen la pena
SUMO: el puzle de númerosToca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.
Dialo: aprende idiomas hablandoConversa con un compañero de IA; cada frase vuelve corregida y explicada en tu idioma. 9 idiomas, de A1 a C2.
ediviewer: lee archivos EDI como documentosAbre mensajes EDIFACT y X12, cada segmento explicado, conversión a JSON/XML, exportación a PDF y Excel. Funciona en local, sin subir nada.
giftdetect: el regalo adecuado en minutosElige para quién es, la ocasión y su personalidad. El buscador lee las descripciones de tiendas locales y ordena lo que encaja. Gratis, sin registro.
Más de este día
Ver todas →
Boston Dynamics pone ruedas a Atlas y logra un salto de 360 grados
Hackean al Instituto de Seguridad Financiera de Corea del Sur
REA: la IA populariza la ingeniería inversa de smart TV y apps
