Osegi
IA·1 min de lecture

CEDH : une avocate exclue pour des précédents inventés par l'IA

Pour la première fois, la Cour européenne des droits de l'homme exclut une avocate dont le mémoire citait des décisions inventées par une IA.

The European Court of Human Rights building in Strasbourg, where a lawyer was excluded over AI-generated false precedents.
Image: heise online

Une avocate dépose un mémoire devant la Cour européenne des droits de l'homme (CEDH) à Strasbourg, et une partie des précédents cités semble sortir tout droit d'une IA. La Cour l'a exclue de la procédure. C'est la première fois qu'elle prend une telle décision.

Le mémoire regorgeait de ce que le monde de la tech appelle des hallucinations : des réponses d'un modèle de langage qui paraissent plausibles, mais qui sont tout simplement inventées. Dans un texte juridique, cela donne une jurisprudence qui a l'air réelle et ne l'est pas.

Pourquoi les hallucinations de l'IA posent-elles problème devant un tribunal ?

Un mémoire s'appuie sur des décisions antérieures. Les juges et la partie adverse doivent pouvoir vérifier ce qui est cité. Si un arrêt n'existe pas, le document est au mieux inutile, et tous ceux qui doivent le contrôler perdent leur temps. C'est sans doute pourquoi la Cour a préféré l'exclusion à un simple rappel à l'ordre.

La décision pèse d'autant plus que la CEDH est l'une des juridictions les plus connues d'Europe. Elle examine les requêtes de particuliers qui estiment qu'un État a violé leurs droits garantis par la Convention européenne des droits de l'homme.

Et maintenant ?

Les éléments disponibles ne nomment ni l'avocate ni l'affaire, et ne précisent pas les conséquences pour son client. Ils montrent en revanche que les juridictions voient désormais dans un texte généré par IA et non vérifié une faute professionnelle, pas un simple faux pas. Qui utilise ChatGPT ou un outil du même genre doit relire les sources lui-même.

Des apps à découvrir

SUMO : le puzzle de nombres

Touche les bonnes cases, additionne, atteins l'objectif. Facile à apprendre, difficile à maîtriser. Gratuit, pour tous les âges.

Mots-clés:echrai hallucinationslegal techchatgptcourts

Plus d'actus de ce jour

Tout voir →

Plus dans: IA

Tout voir →