Osegi
IA·2 min de lecture

Thinking Machines Lab dévoile Inkling 2 Small, poids ouverts à venir

Thinking Machines Lab présente Inkling 2 Small, un modèle à mélange d'experts de 594 milliards de paramètres avec entrée d'images. Les poids suivront sous Apache 2.0.

Abstract illustration of a large neural network with expert modules lighting up, representing the Inkling 2 Small mixture-of-experts AI model.
Image: BRIDGE
SUMO Dialo ediviewer giftdetect

Thinking Machines Lab a présenté le 5 novembre (heure locale américaine) Inkling 2 Small, la deuxième génération de ses modèles. Il s'agit d'un modèle à mélange d'experts (MoE) de 594 milliards de paramètres au total, dont 17 milliards sont actifs lors de l'inférence. Il accepte les images en entrée et prend en charge le mode « variable effort », qui permet d'ajuster l'effort consacré au raisonnement.

Pour l'instant, le modèle est proposé via Tinker, la plateforme de réglage fin et d'inférence de l'entreprise, sans publication des poids. Une fois les tests de sécurité externes et le red teaming terminés, la société prévoit de publier tous les poids sous licence Apache 2.0 la semaine suivant l'annonce, avec des points de contrôle téléchargeables. Le modèle peut déjà être essayé dans Tinker Playground et utilisé sur Tinker pour le réglage fin et l'échantillonnage.

Architecture et performances

Selon la fiche du modèle, Inkling 2 Small est un modèle décodeur seul de 48 couches, qui oriente chaque jeton vers 8 experts parmi 384. Les images sont encodées par un Vision Transformer et la longueur de contexte atteint un million de jetons.

Il obtient 31 à l'Artificial Analysis Intelligence Index, nettement devant la génération précédente. L'entreprise indique des progrès en codage agentique, en vision, en travail de connaissance et en raisonnement, avec une force particulière pour les tâches autonomes de longue durée.

Grâce à l'association de la vision et des capacités d'agent, le modèle peut refaire des sites web, des jeux et des designs 3D en vérifiant le rendu. Parmi les exemples : un simulateur de ville en Three.js qui génère bâtiments et voitures sans ressources toutes faites, un émulateur de PC en Python qui démarre un véritable noyau Linux, et des vidéos réalisées dans Blender.

Entraînement

L'équipe a employé l'apprentissage par renforcement sur des centaines de milliers de tâches de programmation de longue durée, couvrant plusieurs environnements d'exécution d'agents et méthodes de compression du contexte. Outre les tests unitaires, une notation par agent évalue la manière dont le modèle aborde le problème. Les premiers points de contrôle ont été testés sur OpenCode sous le nom « Fledge-Alpha ».

Thinking Machines Lab est une entreprise de recherche et de produits en IA, réunissant des scientifiques et ingénieurs ayant travaillé notamment sur ChatGPT, Character.ai et PyTorch.

Des apps à découvrir

SUMO : le puzzle de nombres

Touche les bonnes cases, additionne, atteins l'objectif. Facile à apprendre, difficile à maîtriser. Gratuit, pour tous les âges.

Mots-clés:thinking machines labinkling 2 smallopen weightsmixture-of-expertstinker

Plus d'actus de ce jour

Tout voir →

Plus dans: IA

Tout voir →