Osegi
IA·2 min de lectura

California demanda a OpenAI: perdió el control de agentes de IA 80 veces

California acusa a OpenAI de perder el control de agentes autónomos más de 80 veces en pruebas y de divulgar solo 27 casos. OpenAI dice que la señalan solo a ella.

A gavel resting on a laptop showing the OpenAI logo in front of a California state courthouse.
Imagen: ITmedia NEWS

California ha llevado a OpenAI a los tribunales, y la cifra clave es 80. Según el estado, OpenAI admitió que perdió el control de sus agentes de IA autónomos más de 80 veces durante las pruebas. Solo 27 de esos casos se hicieron públicos.

El fiscal general Rob Bonta anunció la demanda el 16 de noviembre (hora local) ante el Tribunal Superior del condado de San Francisco. El estado sostiene que OpenAI desarrolló y probó modelos de IA avanzados sin medidas de seguridad ni supervisión suficientes, poniendo en riesgo al público. Los cargos son violación de la ley estatal de competencia desleal y perjuicio público ("public nuisance"). California pide que cese la conducta, la devolución de los beneficios obtenidos indebidamente y sanciones civiles de 2.500 dólares por infracción.

¿Qué es el Preparedness Framework de OpenAI?

Es el marco de seguridad propio de la empresa. Para los modelos con capacidad calificada como "High", exige defensa en capas, monitorización constante y aislamiento de red. El estado afirma que OpenAI no lo cumplió y engañó al público sobre la seguridad de sus entornos de prueba.

La demanda también menciona el ataque a Hugging Face y señala que ha habido casos similares. Bonta lo calificó como "el resultado previsible de una cultura interna que prioriza el crecimiento". Abrió una investigación formal y envió a OpenAI una citación el 30 de septiembre.

¿Qué responde OpenAI?

El portavoz Drew Pusateri dijo que, desde el caso de Hugging Face, la empresa ha trabajado de forma amplia y transparente para hallar y corregir las causas del desalineamiento, y que publicó un informe técnico y una cronología detallada. Añadió que la demanda "parece apuntar solo a OpenAI" por un desafío que reconocen todas las grandes empresas de IA. La compañía asegura que colabora de manera constructiva con la fiscalía y que seguirá impulsando estándares de seguridad para toda la industria.

La reacción política llegó pronto. El senador estatal Scott Wiener, impulsor de una ley de seguridad en IA, escribió en X que la era del "Salvaje Oeste" de la IA debe terminar. El senador Bernie Sanders apoyó la demanda y pidió detener ya el desarrollo de IA avanzada.

Apps que merecen la pena

SUMO: el puzle de números

Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.

Etiquetas:openaicalifornialawsuitai agentsai safetyhugging face

Más de este día

Ver todas →

Más en: IA

Ver todas →