Mistral Large 4: pesos abiertos del modelo «Le Chonk» de 1 billón

Mistral AI publicó el 29 de octubre los pesos abiertos de Mistral Large 4. Dentro de la empresa lo apodan «Le Chonk» por su tamaño: un billón de parámetros. El modelo sale de la vista previa pública con mejoras en programación, tareas de agentes y seguridad.

Los pesos están en Hugging Face, en el repositorio mistralai/Mistral-Large-4-1T-A52B, sin necesidad de solicitar acceso. También hay una versión cuantizada NVFP4 para las GPU NVIDIA de generación Blackwell. El modelo se presentó el 6 de octubre solo mediante API, y Mistral cumplió su promesa de liberar los pesos en un mes. Entretanto aplicó aprendizaje por refuerzo y lo probó con clientes. Según Pierre Stock, vicepresidente de ciencia, esa fase se realizó en infraestructura propia en Francia, con un consumo cercano a 10 MW, y el entrenamiento base duró unos dos meses con unas 3.800 GPU NVIDIA Grace Blackwell.

Arquitectura y resultados

El modelo emplea 128 expertos enrutados, cuatro de ellos activos por token, más uno compartido. Hay unos 49.000 millones de parámetros activos, o 52.000 millones con los embeddings y la capa de salida, de ahí el nombre del repositorio. El contexto es de un millón de tokens y admite texto e imágenes.

Las tres semanas de ajuste se notan sobre todo en las pruebas de agentes: en Terminal-Bench 4.0 pasó del 28 % al 41 % con un 30 % menos de tokens de salida, y en BrowseComp alcanza el 84,5 % frente al 75 % del punto de control SFT. Se añaden los modos de razonamiento «low» y «medium» al «high». Mistral afirma además que rechaza el 96,6 % de las solicitudes dañinas y resiste el 97 % de los ataques del benchmark B3 Agent Security. Usa un 47 % menos de tokens por tarea que GLM-5.3 con algo menos de precisión, y su ventaja en programación sobre GLM es de un punto. Todas las cifras son de Mistral; solo lo que procede de los índices de Artificial Analysis es independiente, aunque también aparece en el anuncio.

Hardware y licencia

Pesos abiertos no significa despliegue sencillo. La versión FP8 requiere cerca de 1 TB de almacenamiento y la NVFP4 unos 610 GB, además de GPU Blackwell. La Mistral Ecosystem Open-Weight License, una variante modificada de MIT, permite usar, ajustar y comercializar el modelo, pero ofrecerlo como servicio exige una licencia comercial de Mistral.

El lanzamiento llega cuando Sam Altman, director de OpenAI, calificó los modelos locales de «terrible asignación de recursos escasos» y defendió que el hardware debe estar en centros de datos. Mistral, el principal desarrollador europeo de modelos fundacionales, apuesta por lo contrario.