Demanda a OpenAI: ChatGPT habría aconsejado reducir un antiepiléptico

Lo que sostiene la demanda

El escrito señala que las respuestas sugerían que tomar menos fármaco podría mejorar su capacidad lingüística y que ChatGPT no le advirtió de los riesgos de modificar el tratamiento sin control médico. La familia añade que la aplicación la tranquilizó cuando aparecieron síntomas asociados a las crisis. Wan murió el 12 de febrero y fue hallada dos días después.

Se trata de alegaciones incluidas en una demanda, no de conclusiones de un tribunal sobre la responsabilidad del sistema en el fallecimiento.

OpenAI asegura que se toma el caso en serio y que las conversaciones se mantuvieron con una versión anterior del sistema. La compañía sostiene que las versiones más recientes reconocen mejor las situaciones que exigen una intervención urgente.

Por qué importa

La familia reclama indemnizaciones y medidas para impedir que el chatbot ejerza la medicina sin licencia. El caso reabre una pregunta pendiente: qué límites deben respetar las aplicaciones de inteligencia artificial cuando los usuarios toman sus respuestas como sustituto de la consulta médica.

El riesgo es evidente. Cambiar la dosis de un fármaco antiepiléptico sin consultar al médico puede acarrear consecuencias graves, y una respuesta fluida y segura de un chatbot puede parecer una indicación terapéutica.

La responsabilidad legal y la relación causal entre las conversaciones y la muerte quedarán en manos del proceso judicial y de las pruebas que se presenten.