Thinking Machines Lab stellt Inkling 2 Small vor, Gewichte folgen
Thinking Machines Lab hat Inkling 2 Small vorgestellt, ein MoE-Modell mit 594 Milliarden Parametern und Bildeingabe. Die Gewichte sollen unter Apache 2.0 folgen.
SUMO· das Zahlenrätsel
Dialo· Sprachen lernen durch Sprechen
ediviewer· EDI-Dateien wie Dokumente lesen
giftdetect· das passende Geschenk in MinutenThinking Machines Lab hat am 5. November (Ortszeit USA) Inkling 2 Small vorgestellt, die zweite Generation seiner Modellfamilie. Es handelt sich um ein Mixture-of-Experts-Modell (MoE) mit 594 Milliarden Parametern insgesamt, von denen bei der Inferenz 17 Milliarden aktiv sind. Das Modell verarbeitet Bilder und unterstützt „Variable Effort“, mit dem sich der Denkaufwand steuern lässt.
Zunächst steht es über Tinker bereit, die Plattform des Unternehmens für Fine-Tuning und Inferenz, allerdings ohne veröffentlichte Gewichte. Nach Abschluss externer Sicherheitstests und Red-Teaming will das Unternehmen in der Woche nach der Ankündigung sämtliche Gewichte unter der Apache-2.0-Lizenz freigeben und Checkpoints zum Download anbieten. Im Tinker Playground lässt sich das Modell bereits testen, auf Tinker auch für Fine-Tuning und Sampling nutzen.
Architektur und Leistung
Laut Modellkarte ist Inkling 2 Small ein Decoder-only-Modell mit 48 Schichten, das jedes Token an 8 von 384 Experten weiterleitet. Bilder werden mit einem Vision Transformer kodiert, die Kontextlänge reicht bis zu einer Million Token.
Im Artificial Analysis Intelligence Index erreicht das Modell 31 Punkte und liegt damit deutlich vor der Vorgängergeneration. Verbessert haben sich nach Angaben des Unternehmens agentisches Programmieren, Bildverständnis, Wissensarbeit und logisches Schlussfolgern, besonders bei lang laufenden autonomen Aufgaben.
Durch die Kombination aus Vision und Agentenfähigkeiten kann das Modell Websites, Spiele und 3D-Designs überarbeiten und dabei prüfen, wie sie aussehen. Als Beispiele nennt das Unternehmen einen Stadtsimulator in Three.js, der Gebäude und Autos ohne fertige Assets erzeugt, einen in Python geschriebenen PC-Emulator, auf dem ein echter Linux-Kernel startet, sowie in Blender erstellte Videos.
Training
Das Team setzte Reinforcement Learning auf Hunderttausenden langer Programmieraufgaben ein, die mehrere Agenten-Ausführungsumgebungen und Verfahren zur Kontextkompression abdecken. Neben Unit-Test-Ergebnissen kam eine agentische Bewertung hinzu, die beurteilt, wie das Modell ein Problem angeht. Frühe Checkpoints liefen unter dem Namen „Fledge-Alpha“ auf OpenCode.
Thinking Machines Lab forscht an KI und entwickelt Produkte; im Team arbeiten Wissenschaftler und Ingenieure, die unter anderem an ChatGPT, Character.ai und PyTorch beteiligt waren.
Apps, die sich lohnen
SUMO: das ZahlenrätselTippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.
Dialo: Sprachen lernen durch SprechenSprich mit einem KI-Gesprächspartner; jeder Satz kommt korrigiert und in deiner Sprache erklärt zurück. 9 Sprachen, A1 bis C2.
ediviewer: EDI-Dateien wie Dokumente lesenEDIFACT- und X12-Nachrichten öffnen, jedes Segment verständlich erklärt, in JSON/XML umwandeln, als PDF und Excel exportieren. Läuft lokal, kein Upload.
giftdetect: das passende Geschenk in MinutenWähle, für wen es ist, den Anlass und die Persönlichkeit. Die Suchmaschine liest Produktbeschreibungen lokaler Shops und sortiert, was passt. Kostenlos, ohne Anmeldung.
Mehr von diesem Tag
Alle anzeigen →
Windows 11: Registrierungs-Editor mit WinUI 3 als Demo aufgetaucht
JRH ASI finanziert Produktion von Radarsystemen in der Ukraine
Budimex testet autonome Walzen gegen den Fachkräftemangel am Bau
