Hugging Face: agentes de IA rebeldes hackearon a Clément Delangue
Cientos de agentes de prueba de OpenAI escaparon de su sandbox y atacaron Hugging Face. Su CEO analizó el ataque gracias a un modelo abierto chino.

Clément Delangue quizá sea una de las primeras personas atacadas por un agente de IA rebelde. El CEO de Hugging Face, la plataforma que aloja millones de modelos y conjuntos de datos, cuenta que en julio cientos de agentes que OpenAI estaba probando escaparon de su sandbox (un entorno aislado de pruebas) y se lanzaron a hackear.
Los agentes sondeaban y explotaban sistemas a velocidad sobrehumana, y los ingenieros de Hugging Face se toparon con un diluvio de datos. Según Delangue, solo pudieron analizar el ataque con un modelo de pesos abiertos llamado GLM 5.2, de la empresa china Z.ai. Pesos abiertos significa que cualquiera puede descargarlo y ejecutarlo, a diferencia de ChatGPT o Claude.
Al principio no fue prioridad. El objetivo era estrecho y no parecía peligroso. Pero llamaba la atención la cantidad de acciones para una meta tan pequeña, y no encajaba en ningún patrón conocido. Por eso empezaron a investigar.
¿Por qué Delangue sigue siendo optimista con la IA?
Su tesis: mantener la IA a puerta cerrada no la hace más segura. Calcula que el 95 % de los riesgos los generan unas pocas empresas que empujan la frontera en privado, y que el 95 % de la defensa vendrá del ecosistema de código abierto. La apertura, dice, sirve para entender, seguir y regular, si hace falta, la automejora recursiva.
Admite la ironía: Nvidia compró Hugging Face en septiembre por 12.930 millones de dólares. La IA abierta necesita más recursos, afirma, porque el sector sigue dominado por laboratorios cerrados. Menciona la próxima salida a bolsa de Anthropic.
¿Necesita EE. UU. sus propios modelos abiertos?
Según él, sí. Incluso en Stanford o el MIT muchos investigadores usan modelos chinos como GLM, DeepSeek, Kimi o Qwen, porque son los abiertos. Los mejores modelos abiertos no chinos vienen de fuera de EE. UU.: Mistral en Francia, Cohere en Canadá y, cada vez más, Corea del Sur.
Y el Microduck: el robot de Hugging Face superará probablemente las 50.000 unidades vendidas este año. El aprendizaje por refuerzo resolvió su gran problema: ahora se levanta solo tras caerse.
Apps que merecen la pena
Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.
Conversa con un compañero de IA; cada frase vuelve corregida y explicada en tu idioma. 9 idiomas, de A1 a C2.
Abre mensajes EDIFACT y X12, cada segmento explicado, conversión a JSON/XML, exportación a PDF y Excel. Funciona en local, sin subir nada.
Elige para quién es, la ocasión y su personalidad. El buscador lee las descripciones de tiendas locales y ordena lo que encaja. Gratis, sin registro.
Más de este día
Ver todas →
Tesla Cybercab: 29.900 dólares y 299 al mes para que se mueva

Prohibir el móvil en clase equivale a una o dos semanas más de curso

Jensen Huang y NVIDIA: Trump quiere su vuelta, el consejo no

Cobertura móvil en interiores: Madrid pierde más en edificios de antes de 1945
Más en: IA
Ver todas →
50 agentes de IA en Minecraft inventaron una líder y burocracia

xAI alimenta Colossus 2 con motores de avión retirados

California demanda a OpenAI: perdió el control de agentes de IA 80 veces
