OpenAI poursuivi : ChatGPT aurait conseillé de réduire un antiépileptique

Ce que reproche la plainte

D'après le texte déposé, les réponses laissaient entendre qu'une baisse du traitement pourrait améliorer ses capacités linguistiques, et ChatGPT ne l'aurait pas avertie des risques d'une modification du traitement sans suivi médical. La famille ajoute que l'application l'a rassurée lorsque des symptômes liés aux crises sont apparus. Bowen Wan est morte le 12 février et a été retrouvée deux jours plus tard.

Ces éléments sont des allégations contenues dans une plainte, et non des conclusions d'un tribunal sur la responsabilité du système dans ce décès.

OpenAI affirme prendre l'affaire au sérieux et précise que les échanges en cause ont eu lieu avec une version plus ancienne du système. L'entreprise assure que les versions récentes reconnaissent mieux les situations nécessitant une intervention urgente.

Un enjeu pour tous les utilisateurs

La famille réclame des dommages et intérêts ainsi que des mesures visant à empêcher l'exercice illégal de la médecine par le robot conversationnel. L'affaire relance un débat non tranché : quelles limites les applications d'intelligence artificielle doivent-elles respecter lorsque leurs réponses sont perçues comme un substitut à l'avis d'un médecin ?

Le danger est concret. Modifier la dose d'un antiépileptique sans consulter un médecin peut avoir de graves conséquences, et une réponse fluide et assurée d'un agent conversationnel peut passer pour une consigne thérapeutique.

La responsabilité juridique et le lien de causalité entre ces échanges et le décès seront examinés par la justice, sur la base des preuves produites.