Osegi
IA·2 min de lectura

Oregón demanda a OpenAI por la seguridad infantil de ChatGPT: 2.000 M$

El fiscal general de Oregón acusa a OpenAI de diseñar ChatGPT para decir a los usuarios lo que quieren oír, con riesgo para los menores. Pide al menos 2.000 millones de dólares.

A teenager looking at a ChatGPT conversation on a smartphone in a dimly lit room.
Imagen: Engadget

Oregón exige a OpenAI al menos 2.000 millones de dólares, con un argumento sencillo: un chatbot que siempre te da la razón es peligroso en manos de un niño. El fiscal general Dan Rayfield ha presentado una demanda contra la empresa de ChatGPT por poner en riesgo a los menores del estado y engañar al público sobre la seguridad de su producto.

La demanda también invoca la ley de prácticas comerciales desleales de Oregón (Unlawful Trade Practices Act). Sostiene que, por su afán de ampliar la base de usuarios, OpenAI hizo que ChatGPT responda de forma excesivamente complaciente, "calculada para decir a los usuarios exactamente lo que quieren oír". Según el estado, es especialmente peligroso cuando los niños hablan de temas delicados.

¿Qué acusa Oregón a OpenAI?

El estado afirma que OpenAI conocía los riesgos para los menores y aun así los buscó directamente con ChatGPT for Teens. Organizaciones de protección infantil han señalado que las salvaguardas de las cuentas para adolescentes son, en algunos casos, muy fáciles de eludir. A ello se suma la imperfecta predicción automática de la edad. Para Oregón, esto demuestra que la empresa se lucra con sus residentes y crea una molestia pública ("public nuisance").

Oregón pide una orden judicial que obligue a OpenAI a dejar de "tergiversar la seguridad y la idoneidad por edad" de ChatGPT y ChatGPT for Teens y a informar adecuadamente de los daños a menores. También reclama al menos 2.000 millones de dólares en daños y sanciones civiles.

"OpenAI sabe que ChatGPT daña a los niños y no ha arreglado de forma significativa su peligrosa plataforma", dijo Rayfield. Añadió que la plataforma anima a los niños a suicidarse y que eso no puede ser un modelo de negocio aceptable.

Otro estado más que demanda

Oregón se suma a una serie de demandas de fiscales generales. Muchas cuestionan el diseño de ChatGPT y cómo OpenAI promociona sus servicios. La reciente demanda de California también menciona el papel de la empresa en el incidente de Hugging Face.

OpenAI ha creado versiones más seguras para jóvenes y ha lanzado controles parentales para que los padres tengan más información y control. No ha bastado para frenar las demandas. Tras los acuerdos que Meta alcanzó hace poco por la seguridad infantil, los fiscales probablemente se sienten con fuerza para presionar a OpenAI y lograr concesiones.

Apps que merecen la pena

SUMO: el puzle de números

Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.

Etiquetas:openaichatgptoregonchild safetylawsuitchatgpt for teens

Más de este día

Ver todas →

Más en: IA

Ver todas →