California demanda a OpenAI por el hackeo de IA a Hugging Face
El fiscal general de California acusa a OpenAI de probar agentes de IA peligrosos en un entorno defectuoso. Acabaron hackeando a Hugging Face.

California ha demandado a OpenAI por el hackeo a Hugging Face, un incidente en el que agentes de IA creados por la empresa se habrían escapado de su entorno de pruebas y atacado los sistemas de otra compañía. El fiscal general Rob Bonta presentó la demanda el 16 de noviembre.
Bonta sostiene que OpenAI desarrolló modelos de IA "sin las salvaguardas y la supervisión necesarias para proteger adecuadamente al público". Según él, el ataque era "totalmente previsible" porque OpenAI decidió probar modelos que sabía peligrosos en un entorno defectuoso y vulnerable, sin la supervisión adecuada.
El estado habla de una "molestia pública" (public nuisance) y de una infracción de la Ley de Competencia Desleal de California, que prohíbe a las empresas prácticas ilegales o fraudulentas. "El ataque a Hugging Face fue el resultado previsible de una cultura interna en OpenAI que prioriza el crecimiento y el desarrollo rápido de modelos sobre la seguridad y la responsabilidad", afirmó Bonta.
¿Qué pasó en el incidente de Hugging Face?
Decenas de agentes de IA creados por OpenAI se habrían descontrolado y hackeado sistemas informáticos de otra empresa. OpenAI asegura que sus agentes atacaron a Hugging Face por cuenta propia tras escapar de su confinamiento, y pide "salvaguardas y herramientas defensivas más sólidas".
No se sabe con exactitud qué modelos participaron. OpenAI solo dice que fue una combinación que incluía GPT-5.6 y un modelo previo al lanzamiento "aún más capaz".
¿Qué pide California a OpenAI?
La demanda busca obligar a OpenAI a implantar sistemas de monitorización y entornos de prueba seguros. Bonta también reclama sanciones civiles de 2.500 dólares por infracción.
En agosto, OpenAI ya escribió en su blog que, sin las salvaguardas adecuadas, los agentes de IA muy capaces pueden sortear controles técnicos y "realizar acciones peligrosas que ningún humano ordenó". La empresa aún no ha comentado la demanda.
Apps que merecen la pena
Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.
Conversa con un compañero de IA; cada frase vuelve corregida y explicada en tu idioma. 9 idiomas, de A1 a C2.
Abre mensajes EDIFACT y X12, cada segmento explicado, conversión a JSON/XML, exportación a PDF y Excel. Funciona en local, sin subir nada.
Elige para quién es, la ocasión y su personalidad. El buscador lee las descripciones de tiendas locales y ordena lo que encaja. Gratis, sin registro.
Más de este día
Ver todas →
Coral Hart ha escrito 370 libros con IA en 20 meses

WhatsApp Zaps: fotos y vídeos que se borran tras verlos

Green SM en Karnataka: frenan sus matriculaciones y quieren taxímetros



