Osegi
AI·1 分で読めます

欧州人権裁判所、AIが作った偽の判例を出した弁護士を排除

欧州人権裁判所が初めて、AIの「幻覚」だらけの書面を出した弁護士を手続きから外した。存在しない判例が並んでいたという。

The European Court of Human Rights building in Strasbourg, where a lawyer was excluded over AI-generated false precedents.
画像: heise online

存在しない判例を、裁判所への書面に並べてしまった。ストラスブールにある欧州人権裁判所(ECHR)は、そんな弁護士を手続きから排除した。AIが生成した誤情報を理由にした排除は、同裁判所で初めてとされる。

欧州人権裁判所で何があったのか

排除されたのは女性の弁護士だ。提出した書面は、AIのハルシネーション(幻覚)で埋め尽くされていたという。ハルシネーションとは、生成AIがもっともらしい口調で事実ではない内容を作り出す現象を指す。今回で言えば、実際には存在しない判例や引用がこれに当たる。

裁判所はこれを重く見て、この弁護士を事件から外した。詳しい事件の内容や弁護士の名前は、手元の情報には含まれていない。

判例の誤りがなぜ問題になるのか

法廷の議論は、過去の判例を土台に組み立てられる。裁判官も相手方も、書面に挙げられた判例が実在することを前提に読み進める。チャットボットが作った偽の判例を確認せずに提出すれば、その前提が崩れる。

今回の判断は、AIを使うこと自体を禁じるものではない。ただ、出力を検証する責任は使った側にある、という線引きをはっきり示した形だ。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:echrai hallucinationslegal techchatgptcourts

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →