Osegi
KI·1 Min. Lesezeit

TINY 2.1: Sprachmodell läuft unter DOS auf einem 486er

TINY 2.1 ist ein winziger Transformer in Turbo C, der unter DOS auf einem Pentium oder 486DX läuft und auf eine Diskette passt. Er spricht sogar über den PC-Speaker.

A beige 486-era PC running a neon-styled text interface next to a 3.5-inch floppy disk.
Bild: Хабр

Ein Chatbot, der auf eine Diskette passt und auf einem 486er läuft? TINY 2.1 macht genau das. Das quelloffene Sprachmodell für DOS stammt von einem Entwickler namens WollyMonjac, der nach eigenen Angaben die KI-Tools Fable 5.2 und Opus 5.5 zu Hilfe genommen hat.

Das Programm ist in Turbo C 2.0 geschrieben und läuft unter DOS auf einem alten Pentium oder 486DX. Alles zusammen, samt Gewichten, passt auf eine einzige Diskette.

Wie groß ist TINY 2.1?

Selbst für kleine Modelle ist es winzig. Es hat 367.000 Parameter (die Zahlen, die ein Modell beim Training lernt), verteilt auf 4 Schichten mit der Dimension 96. Ein- und Ausgabe erfolgen Zeichen für Zeichen, nicht in Wortbausteinen.

Damit alles passt, liegen die Gewichte als 8-Bit-Werte vor, mit einem Skalierungsfaktor pro Zeile. Zusammen sind das 380 KB. Zur Laufzeit braucht das Modell etwa 540 KB freien konventionellen Speicher, also aus jenen 640 KB, um die DOS-Programme schon immer gerungen haben.

Was kann TINY 2.1 beantworten?

Nicht viel, und das ist Absicht. Trainiert wurde es mit rund 3.500 Fakten, jeweils in mehreren Formulierungen. Fragt man etwas außerhalb dieses Wissens, erfindet das Modell selbstsicher eine Antwort. Es halluziniert also.

Die Oberfläche ist ein Vollbild im Neon-Stil, das die Arbeit des Netzes live zeigt. Dazu spricht das Modell mit Roboterstimme über den PC-Speaker, den einfachen Piepser alter PCs.

TINY 2.1 ist eine Spielerei, kein brauchbarer Assistent. Es zeigt aber, wie wenig Hardware ein funktionierender Transformer, die Architektur moderner Chatbots, braucht, wenn die Aufgabe eng genug gefasst ist.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:tiny 2.1doslanguage modelretro computing486turbo c

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: KI

Alle anzeigen →