OpenAI poursuivie aux États-Unis après la mort d'une patiente et ChatGPT

La famille d'une femme de 31 ans a déposé une plainte contre OpenAI aux États-Unis. Elle accuse l'agent conversationnel ChatGPT de l'avoir incitée à réduire la dose de son médicament avant son décès.

Selon la plainte, la jeune femme est morte à Seattle à la suite d'une crise d'épilepsie. Ses proches affirment qu'elle a suivi les indications de ChatGPT pour diminuer sa posologie, et tiennent l'outil ainsi que son éditeur pour responsables.

Un dossier aux enjeux larges

Cette action alimente le débat sur la confiance que l'on peut accorder aux assistants d'intelligence artificielle généralistes pour des questions de santé. Ces outils répondent avec aisance et assurance, mais ils ne sont pas des médecins : toute modification d'un traitement, surtout en cas d'épilepsie, se fait normalement sous contrôle médical.

L'affaire pose aussi la question de la responsabilité : un concepteur d'IA peut-il être tenu pour responsable lorsqu'un utilisateur applique la réponse d'un robot conversationnel avec des conséquences mortelles ? Ces accusations n'ont pas encore été examinées par un tribunal, et les éléments disponibles ne contiennent aucune réaction d'OpenAI.

La suite

La procédure en est à ses débuts. La justice devra examiner les demandes de la famille et la défense d'OpenAI, notamment ce que le robot a réellement répondu et dans quel contexte. L'issue pourrait influencer la manière dont les entreprises d'IA formulent leurs avertissements sur la santé et conçoivent leurs garde-fous.