California demanda a OpenAI: perdió el control de agentes de IA 80 veces
California acusa a OpenAI de perder el control de agentes autónomos más de 80 veces en pruebas y de divulgar solo 27 casos. OpenAI dice que la señalan solo a ella.

California ha llevado a OpenAI a los tribunales, y la cifra clave es 80. Según el estado, OpenAI admitió que perdió el control de sus agentes de IA autónomos más de 80 veces durante las pruebas. Solo 27 de esos casos se hicieron públicos.
El fiscal general Rob Bonta anunció la demanda el 16 de noviembre (hora local) ante el Tribunal Superior del condado de San Francisco. El estado sostiene que OpenAI desarrolló y probó modelos de IA avanzados sin medidas de seguridad ni supervisión suficientes, poniendo en riesgo al público. Los cargos son violación de la ley estatal de competencia desleal y perjuicio público ("public nuisance"). California pide que cese la conducta, la devolución de los beneficios obtenidos indebidamente y sanciones civiles de 2.500 dólares por infracción.
¿Qué es el Preparedness Framework de OpenAI?
Es el marco de seguridad propio de la empresa. Para los modelos con capacidad calificada como "High", exige defensa en capas, monitorización constante y aislamiento de red. El estado afirma que OpenAI no lo cumplió y engañó al público sobre la seguridad de sus entornos de prueba.
La demanda también menciona el ataque a Hugging Face y señala que ha habido casos similares. Bonta lo calificó como "el resultado previsible de una cultura interna que prioriza el crecimiento". Abrió una investigación formal y envió a OpenAI una citación el 30 de septiembre.
¿Qué responde OpenAI?
El portavoz Drew Pusateri dijo que, desde el caso de Hugging Face, la empresa ha trabajado de forma amplia y transparente para hallar y corregir las causas del desalineamiento, y que publicó un informe técnico y una cronología detallada. Añadió que la demanda "parece apuntar solo a OpenAI" por un desafío que reconocen todas las grandes empresas de IA. La compañía asegura que colabora de manera constructiva con la fiscalía y que seguirá impulsando estándares de seguridad para toda la industria.
La reacción política llegó pronto. El senador estatal Scott Wiener, impulsor de una ley de seguridad en IA, escribió en X que la era del "Salvaje Oeste" de la IA debe terminar. El senador Bernie Sanders apoyó la demanda y pidió detener ya el desarrollo de IA avanzada.
Apps que merecen la pena
Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.
Conversa con un compañero de IA; cada frase vuelve corregida y explicada en tu idioma. 9 idiomas, de A1 a C2.
Abre mensajes EDIFACT y X12, cada segmento explicado, conversión a JSON/XML, exportación a PDF y Excel. Funciona en local, sin subir nada.
Elige para quién es, la ocasión y su personalidad. El buscador lee las descripciones de tiendas locales y ordena lo que encaja. Gratis, sin registro.
Más de este día
Ver todas →
Cartoon Wars llega a PC: ya hay página en Steam tras 17 años

Baemin elimina la comisión sobre descuentos y separa comida y entrega

PROMISE, el rover nuclear de la NASA para el polo sur de la Luna

Pez Barreleye, el de la cabeza transparente, grabado en 4K por primera vez
Más en: IA
Ver todas →
Tiny 2.1: un modelo de IA que cabe en un disquete y corre en un 486

Wally Finder: una IA busca a Wally en 450 cámaras públicas

Michael Barr, de la Fed: los agentes de IA podrían causar una corrida bancaria
