Osegi
AI·1 분 소요

유럽인권재판소, AI가 만든 가짜 판례 낸 변호사 배제

유럽인권재판소가 처음으로 AI 환각이 가득한 서면을 낸 변호사를 사건에서 배제했습니다. 존재하지 않는 판례가 담겼다고 합니다.

The European Court of Human Rights building in Strasbourg, where a lawyer was excluded over AI-generated false precedents.
이미지: heise online

존재하지 않는 판례를 법원에 제출한 변호사가 결국 재판에서 쫓겨났습니다. 프랑스 스트라스부르에 있는 유럽인권재판소(ECHR)가 AI 환각으로 가득한 서면을 낸 여성 변호사를 처음으로 배제했습니다.

유럽인권재판소에서 무슨 일이 있었나

문제가 된 것은 변호사가 제출한 서면입니다. 이 서면에는 AI 환각이 가득했다고 합니다. 환각은 생성형 AI가 그럴듯한 말투로 사실이 아닌 내용을 지어내는 현상입니다. 이번 사례에서는 실제로 없는 판례가 여기에 해당합니다.

재판소는 이를 심각하게 보고 해당 변호사를 사건에서 제외했습니다. 변호사의 이름과 구체적인 사건 내용은 확인된 정보에 포함되어 있지 않습니다.

가짜 판례가 왜 문제인가

법정 공방은 과거 판례를 바탕으로 짜입니다. 판사와 상대방은 서면에 인용된 판례가 실제로 있다고 믿고 읽습니다. 챗봇이 만든 가짜 판례를 검증 없이 내면 그 믿음이 흔들립니다.

이번 조치는 AI 사용 자체를 막는 것이 아닙니다. 다만 AI가 내놓은 결과를 확인할 책임은 사용한 사람에게 있다는 점을 분명히 보여 줍니다.

주목할 만한 앱

SUMO: 숫자 퍼즐

올바른 칸을 고르고 더해 목표 숫자를 맞추세요. 배우긴 쉽고 마스터하긴 어렵습니다. 무료, 전 연령.

태그:echrai hallucinationslegal techchatgptcourts

같은 날의 다른 뉴스

전체 보기 →

관련 카테고리: AI

전체 보기 →