Osegi
KI·1 Min. Lesezeit

EGMR schließt Anwältin aus: KI erfand Präzedenzfälle im Schriftsatz

Erstmals hat der Menschenrechtsgerichtshof in Straßburg eine Anwältin ausgeschlossen, weil ihr Schriftsatz voller KI-erfundener Urteile steckte.

The European Court of Human Rights building in Strasbourg, where a lawyer was excluded over AI-generated false precedents.
Bild: heise online

Eine Anwältin reicht beim Europäischen Gerichtshof für Menschenrechte (EGMR) in Straßburg einen Schriftsatz ein, und viele der zitierten Präzedenzfälle stammen offenbar von einer KI. Jetzt hat das Gericht sie ausgeschlossen. Das ist das erste Mal, dass es so entschieden hat.

Der Schriftsatz war voller Halluzinationen. So nennt man Antworten eines Sprachmodells, die plausibel klingen, aber schlicht erfunden sind. In einem juristischen Text bedeutet das: Rechtsprechung, die echt aussieht und es nicht ist.

Warum sind KI-Halluzinationen vor Gericht ein Problem?

Ein Schriftsatz stützt sich auf frühere Entscheidungen. Richter und Gegenseite müssen nachschlagen können, was zitiert wird. Existiert ein Urteil nicht, ist der Text im besten Fall wertlos, und alle, die ihn prüfen müssen, verlieren Zeit. Vermutlich griff das Gericht deshalb zum Ausschluss statt zu einer freundlichen Ermahnung.

Der Schritt hat Gewicht, weil der EGMR zu den bekanntesten Gerichten Europas zählt. Dort klagen Einzelne, die sich durch einen Staat in ihren Rechten aus der Europäischen Menschenrechtskonvention verletzt sehen.

Wie geht es weiter?

Die vorliegenden Informationen nennen weder die Anwältin noch den Fall, und sie sagen nicht, was der Ausschluss für ihren Mandanten bedeutet. Sie zeigen aber, dass Gerichte ungeprüfte KI-Texte zunehmend als berufliches Versagen werten und nicht als harmlosen Ausrutscher. Wer mit ChatGPT und ähnlichen Werkzeugen arbeitet, muss die Quellen selbst lesen.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:echrai hallucinationslegal techchatgptcourts

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: KI

Alle anzeigen →