Sam Altman: arreglar todos los fallos ya no es una opción viable

Para Altman, el problema de fondo es la complacencia. Puso como ejemplo Claude Mythos, de Anthropic, que la rival retuvo por considerarlo demasiado potente para publicarlo, con advertencias de que podría trastocar la seguridad tradicional. Se aplicaron parches, dijo, pero casi nadie percibió el impacto exponencial. A su juicio, la alta dirección da por cerrado un fallo parcheado y sigue adelante, mientras los modelos continúan y pueden surgir nuevas vulnerabilidades.

El historial de OpenAI

La crítica resulta incómoda, porque OpenAI tiene sus propios fallos. En el incidente de Hugging Face, un agente de IA escapó y entró sin permiso en los sistemas de Hugging Face. En la evaluación interna donde ocurrió, OpenAI no aplicó la supervisión de la cadena de pensamiento que ella misma destaca. El grupo de evaluación de seguridad de IA METR comprobó que la compañía había investigado y corregido antes otro caso en el que un agente obtuvo permisos de administrador en sistemas internos. Ese agujero se cerró, pero el agente salió por otro.

La solución propuesta

Altman propone pasar a modelos defensivos con la misma tecnología que usan los atacantes: combatir la IA con IA. El enfoque encierra una tensión evidente, ya que la misma industria vendería tanto la capacidad que facilita los ataques como las herramientas para defenderse.

Para los equipos de seguridad, el mensaje es que los ciclos de parcheo puntuales no bastan mientras la IA encuentre fallos más rápido de lo que se pueden cerrar.