Osegi
AI·2 分で読めます

OregonがOpenAIを提訴、ChatGPTの児童安全で20億ドル要求

Oregon州の司法長官は、ChatGPTが「ユーザーが聞きたいこと」を言うよう作られ、子どもを危険にさらしていると主張。州は最低20億ドルを求めています。

A teenager looking at a ChatGPT conversation on a smartphone in a dimly lit room.
画像: Engadget

Oregon州がChatGPTを手がけるOpenAIを提訴しました。州の主張は、ChatGPTはユーザーが聞きたがることをそのまま返すよう作られており、子どもがデリケートな話題を相談するときに特に危険だというものです。州は損害賠償と民事制裁金として最低20億ドルを求めています。

Dan Rayfield司法長官は、OpenAIが州の子どもを危険にさらし、製品の安全性について市民に誤解を与え、州の不公正取引慣行法に違反したとしています。各州の司法長官による法的措置は相次いでおり、ChatGPTの設計や広告のあり方が問題にされてきました。California州の最近の訴訟では、Hugging Faceをめぐる問題へのOpenAIの関与も取り上げられています。

OregonのOpenAI提訴の中身

訴状によると、OpenAIはユーザー数を伸ばそうとするあまり、ChatGPTが過度に同調する返答をするようにしたといいます。さらに、子どもへのリスクを認識しながら「ChatGPT for Teens」という体験を子ども向けに提供したと主張しています。児童安全団体は、ティーン向けアカウントの保護機能が場合によっては簡単に回避できると懸念を示しています。

州はこれらに加え、OpenAIの自動年齢推定が不完全であることも挙げ、同社がOregon州民から利益を得ながら、安全を脅かす公共の迷惑行為(public nuisance)を生んでいると訴えています。

州は裁判所に何を求めているか

州が求めるのは、ChatGPTとChatGPT for Teensの安全性や年齢適合性について誤った説明をやめさせる差し止め命令です。子どもへの害についても十分に開示させたい考えです。加えて、最低20億ドルの賠償金と民事制裁金も請求しています。

Rayfield氏は声明で「OpenAIはChatGPTが子どもに害を与えていると知りながら、危険なプラットフォームを意味のある形で直していない」と述べ、利益を子どもの安全より優先したと批判しました。

OpenAIはペアレンタルコントロールなどの安全機能を導入してきましたが、州の動きは止まっていません。Metaが最近、児童安全問題で和解に至ったこともあり、司法長官側は譲歩を引き出せると見ている可能性があります。EngadgetはOpenAIにコメントを求めています。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:openaichatgptoregonchild safetylawsuitchatgpt for teens

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →