Demandan a OpenAI por la muerte de una mujer tras un consejo de ChatGPT

La familia de una mujer de 31 años presentó una demanda contra OpenAI en Estados Unidos. Acusa al chatbot ChatGPT de haberla orientado a reducir la dosis de su medicamento antes de su fallecimiento.

Según la demanda, la mujer murió en Seattle tras sufrir una crisis epiléptica. Sus allegados sostienen que siguió las indicaciones de ChatGPT para disminuir la dosis y responsabilizan al programa y a su desarrolladora.

Por qué importa

El caso intensifica el debate sobre hasta qué punto se puede confiar en asistentes de IA de uso general para consultas de salud. Estos sistemas responden con fluidez y seguridad, pero no son médicos: cualquier cambio en un tratamiento, sobre todo en enfermedades como la epilepsia, se hace normalmente bajo supervisión facultativa.

Además, plantea ante un tribunal la cuestión de la responsabilidad: si un desarrollador de IA puede responder cuando un usuario actúa según la respuesta de un chatbot y las consecuencias son mortales. Las acusaciones aún no han sido examinadas por la justicia y el material disponible no incluye una respuesta de OpenAI.

Qué sigue

El proceso está en una fase inicial. El tribunal deberá analizar los reclamos de la familia y la defensa de OpenAI, incluido qué respondió realmente el chatbot y cómo se usó. El resultado podría influir en cómo las empresas de IA redactan sus advertencias sobre salud y diseñan sus salvaguardas.