Osegi
AI·1 分で読めます

TINY 2.1、486のDOSで動く言語モデルがフロッピーに収まる

TINY 2.1は、Pentiumや486DXのDOSで動く小さなTransformerです。フロッピー1枚に収まり、PCスピーカーで喋ります。

A beige 486-era PC running a neon-styled text interface next to a 3.5-inch floppy disk.
画像: Хабр

フロッピーディスク1枚に入る言語モデルが登場した。開発者WollyMonjacが公開したオープンソースのTINY 2.1は、古いPentiumや486DX搭載機のDOS上で動く。プロジェクト名は「a transformer for DOS」だ。

コードはTurbo C 2.0で書かれている。開発者によると、制作にはAIのFable 5.2とOpus 5.5を使ったという。

TINY 2.1のスペックは?

パラメータ数は約36万7000で、4層、次元数は96。入出力は1文字ずつ処理する。重みは8ビットで、行ごとに1つのスケール係数を持ち、合計サイズは380KBになる。実行には約540KBの空きコンベンショナルメモリ(DOSの基本メモリ領域)が必要だ。

何ができて、何が苦手か

学習に使ったのは約3500件の事実で、それぞれを複数の言い回しで与えている。この範囲を外れた質問には、モデルが自信たっぷりに答えを「でっち上げる」ことがあるという。

画面はフルスクリーンの「ネオン」風で、ニューラルネットの動きがリアルタイムに表示される。ロボットのような声はシステムのPCスピーカーから出力される。30年前のPCがビープ音で話しかけてくる格好だ。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:tiny 2.1doslanguage modelretro computing486turbo c

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →