Osegi
IA·1 min de lectura

TINY 2.1: un modelo de lenguaje que corre en DOS con un 486

TINY 2.1 es un pequeño transformer escrito en Turbo C que funciona bajo DOS en un Pentium o 486DX y cabe en un disquete. Incluso habla por el altavoz del PC.

A beige 486-era PC running a neon-styled text interface next to a 3.5-inch floppy disk.
Imagen: Хабр

¿Un chatbot que cabe en un disquete y funciona en un 486? Eso es TINY 2.1. Este modelo de lenguaje de código abierto para DOS es obra de un desarrollador conocido como WollyMonjac, que dice haber contado con la ayuda de las herramientas de IA Fable 5.2 y Opus 5.5.

El programa está escrito en Turbo C 2.0 y funciona bajo DOS en un viejo Pentium o 486DX. Todo, pesos incluidos, cabe en un solo disquete.

¿Qué tamaño tiene TINY 2.1?

Minúsculo, incluso para un modelo pequeño. Tiene 367.000 parámetros (los valores que aprende durante el entrenamiento), repartidos en 4 capas con dimensión 96. Entrada y salida se procesan carácter a carácter, no por fragmentos de palabras.

Para que todo quepa, los pesos se guardan en 8 bits, con un factor de escala por fila. El total son 380 KB. En ejecución necesita unos 540 KB de memoria convencional libre, parte de los 640 KB por los que siempre compitieron los programas de DOS.

¿Qué sabe responder TINY 2.1?

Poco, y es a propósito. Se entrenó con unos 3.500 datos, cada uno escrito de varias formas. Si se le pregunta algo fuera de ese conjunto, se inventa la respuesta con total seguridad. Es decir, alucina.

La interfaz es a pantalla completa, de estilo neón, y muestra la red trabajando en directo. Además habla con voz robótica por el altavoz del PC, el sencillo zumbador de los ordenadores antiguos.

TINY 2.1 es una curiosidad, no un asistente útil. Pero demuestra que un transformer, la arquitectura de los chatbots actuales, puede funcionar con muy poco hardware cuando la tarea es lo bastante limitada.

Apps que merecen la pena

SUMO: el puzle de números

Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.

Etiquetas:tiny 2.1doslanguage modelretro computing486turbo c

Más de este día

Ver todas →

Más en: IA

Ver todas →