Mistral Large 4 : poids ouverts pour le modèle « Le Chonk »

Mistral AI a publié le 29 octobre les poids ouverts de Mistral Large 4. En interne, le modèle est surnommé « Le Chonk » en raison de sa taille : un billion de paramètres. Il sort de la préversion publique avec des améliorations en programmation, en tâches agentiques et en sécurité.

Les poids sont disponibles sur Hugging Face, dans le dépôt mistralai/Mistral-Large-4-1T-A52B, sans demande d'accès. Une version quantifiée NVFP4 est proposée pour les GPU NVIDIA de génération Blackwell. Le modèle avait été présenté le 6 octobre, uniquement par API ; Mistral a tenu sa promesse de publier les poids sous un mois. Entre-temps, l'entreprise a poursuivi l'entraînement par renforcement et testé le modèle chez des clients. Selon Pierre Stock, vice-président science, cette étape a mobilisé les capacités de l'entreprise en France, soit environ 10 MW, tandis que l'entraînement de base a duré près de deux mois sur environ 3 800 GPU NVIDIA Grace Blackwell.

Architecture et résultats

Le modèle compte 128 experts routés, dont quatre actifs par jeton, plus un expert partagé. Environ 49 milliards de paramètres sont actifs, 52 milliards avec les plongements et la couche de sortie, d'où le nom du dépôt. La fenêtre de contexte atteint un million de jetons, avec texte et images en entrée.

Les trois semaines de réglage se voient surtout sur les tests agentiques : Terminal-Bench 4.0 passe de 28 % à 41 % avec 30 % de jetons de sortie en moins, et BrowseComp atteint 84,5 % contre 75 % pour le point de contrôle SFT. Des modes de raisonnement « low » et « medium » s'ajoutent au mode « high ». Mistral affirme aussi que le modèle refuse 96,6 % des requêtes malveillantes et résiste à 97 % des attaques du benchmark B3 Agent Security. Il consomme 47 % de jetons en moins par tâche que GLM-5.3, avec une précision légèrement inférieure, et devance GLM d'environ un point en code. Tous les chiffres viennent de Mistral ; seuls les résultats des indices d'Artificial Analysis sont indépendants, mais ils figurent aussi dans l'annonce.

Matériel et licence

Poids ouverts ne signifie pas déploiement simple. La version FP8 exige environ 1 To d'espace, la NVFP4 environ 610 Go et des GPU Blackwell. La licence Mistral Ecosystem Open-Weight License, variante modifiée de la MIT, autorise l'usage, le réglage fin et l'exploitation commerciale, mais proposer le modèle en service nécessite une licence commerciale de Mistral.

La sortie intervient alors que Sam Altman, patron d'OpenAI, a qualifié les modèles locaux de « terrible allocation de ressources rares », jugeant que le matériel doit rester dans les centres de données. Mistral, principal développeur européen de modèles de fondation, fait le pari inverse.