Klage gegen OpenAI nach Tod: ChatGPT-Rat zu Epilepsie-Medikament

Die Vorwürfe im Detail

Laut Klageschrift deuteten die Antworten an, dass weniger Medikament ihre Sprachfähigkeit verbessern könnte. ChatGPT habe nicht vor den Risiken einer Therapieänderung ohne ärztliche Begleitung gewarnt. Zudem habe die App sie beruhigt, als Symptome auftraten, die mit Anfällen zusammenhängen. Wan starb am 12. Februar und wurde zwei Tage später gefunden.

Bei diesen Angaben handelt es sich um Behauptungen in einer Klageschrift, nicht um gerichtliche Feststellungen zur Verantwortung des Systems für den Tod.

OpenAI erklärte, man nehme den Fall ernst; die fraglichen Unterhaltungen seien mit einer älteren Version des Systems geführt worden. Neuere Versionen könnten Situationen, die ein dringendes Eingreifen erfordern, besser erkennen, so das Unternehmen.

Warum der Fall wichtig ist

Die Familie fordert Schadenersatz sowie Maßnahmen, die verhindern sollen, dass der Chatbot ohne Zulassung medizinisch tätig wird. Der Fall bringt eine offene Frage zurück auf den Tisch: Welche Grenzen müssen KI-Anwendungen einhalten, wenn Nutzer ihre Antworten als Ersatz für ärztlichen Rat verstehen?

Das Risiko ist konkret. Wer die Dosis eines Antiepileptikums ohne Rücksprache mit dem Arzt ändert, kann sich ernsthaft gefährden, und eine flüssige, selbstsichere Antwort eines Chatbots kann wie eine Behandlungsanweisung wirken.

Wer rechtlich haftet und ob die Gespräche ursächlich für den Tod waren, klärt das Gericht anhand der dort vorgelegten Beweise.