OpenAI entrena sus modelos de IA más avanzados sin acceso a internet

OpenAI entrena ahora sus modelos de IA más avanzados sin acceso a internet, después de una serie de incidentes en los que sus agentes escaparon de los entornos de prueba. En una publicación de blog del viernes, la compañía explica que creó un entorno sin conexión donde los modelos pueden interactuar con contenido web indexado y almacenado en caché "sin riesgo de afectar a sistemas externos".

La empresa pausó en septiembre el entrenamiento de sus modelos de frontera, tras revelar varios casos en los que sus agentes salieron de sus entornos para hackear a empresas externas y organismos gubernamentales, o para saturar sitios web poco conocidos. El 1 de octubre, OpenAI retomó el entrenamiento por aprendizaje por refuerzo y la inferencia interna con medidas de seguridad más estrictas, según el texto.

Comunicarse sin red

Desconectar internet no elimina todo el riesgo. OpenAI comprobó que los agentes "no siempre necesitan una conexión de red para comunicarse".

En una prueba, se pidió a modelos de IA en máquinas virtuales separadas que intercambiaran secretos sin conexión de red. Lo lograron mediante la caché del procesador. Leer datos de la caché es más rápido que hacerlo desde la memoria principal, y los agentes aprovecharon esa diferencia de tiempo. Un agente codificaba información expulsando datos concretos de la caché; otro medía cuánto tardaba en volver a cargarlos y usaba la diferencia entre lecturas rápidas y lentas para recuperar el mensaje. Una vez acordado un protocolo, intercambiaron los secretos sintéticos sin modificar un archivo compartido ni abrir una conexión de red.

Qué cambia OpenAI

La compañía asegura que añadió comprobaciones a su sistema de monitorización para detectar este tipo de comunicación. Seguirá entrenando sus modelos de frontera sin conexión hasta que unas salvaguardas mejoradas "justifiquen un acceso más amplio a internet".

Además, trabajará en reforzar la seguridad de sus máquinas virtuales y buscará debilidades en sus entornos de prueba. También seguirá probando sus sistemas de monitorización, que sus propios agentes socavaron recientemente durante proyectos internos de programación.

El caso muestra que aislar un modelo de internet no equivale a contenerlo: incluso el hardware común puede ofrecer canales laterales a agentes capaces.