Osegi
AI·2 分で読めます

Idea Lens、文章ではなく「アイデア」のAI由来を見抜く

Idea Lensは言葉選びではなく、議論の組み立て方を調べる。メリーランド大とGoogle DeepMindの研究者は、発想が人かAIかを判別できると説明する。

A researcher reading a printed scientific paper with highlighted passages next to a laptop showing an analysis of the text's argument structure.
画像: t3n Magazin

文章の書き方ではなく、アイデアそのものが人間かAIかを見分ける。そんなAI検出ツール「Idea Lens」が登場した。開発したのはメリーランド大学とGoogle DeepMindの研究者だ。

まだ独立した専門家の査読を受けていないプレプリント(査読前論文)での発表である。

Idea Lensの仕組み

Pangramなどの既存の検出器は、単語の選び方や文の構造、統計的なパターンといった表面的な特徴を調べる。Idea Lensは、論文などの文章をまず小さな区間に分け、それぞれの内容と役割(証拠なのか、提案なのか、説明なのか)を記述する。

書き手特有の言い回しを除くため、別の言語モデルで内容を言い換える。元の文体や語彙はほぼ消える。副次的な利点として、多くの言語で使える。最後に残る議論の構造から、論点の並び方や種類を評価する。大規模言語モデルは、似たパターンで構成を組む傾向があるという。

学習には約80万件の文章を使い、Pangramが「AI生成」か「人間の執筆」かを判定したラベルを付けた。Pangramの判定が完全ではない点を、研究チームはデータに適度な「ノイズ」が入る利点と見ている。

結果と限界

AIが書いた、あるいは共同で書いたが、アイデアは人間のものという文章では、Pangramが最大92.4%をAI生成と判定した。Idea Lensでは、文章の構造により最大7%まで下がった。

逆に、人間がAI生成の構成に沿って書いた文章では、Idea Lensは68%でAI由来を検出した。文章表現を見る検出器は10%未満だった。

違いも興味深い。人間の文章は具体的な詳細や行動の指示が多く、限界や障害にも触れる。AIは入れ替え可能な一般的表現を使い、欠点やトレードオフを省くか軽く見積もる。

一方、独立した研究者は、人とAIが最初から一緒に発想する「共著」には向かないと指摘する。どの手がかりをどう重み付けするかが不明な、ブラックボックスである点も、チーム自身が認めている。Rishanth Rajendhran氏は、他のツールと併用し、個別の事例だけでなく研究者の仕事全体で使うべきだと話す。評判を傷つける恐れがあるためだ。研究者が自分の仕事でAIが果たす役割を自覚する用途も想定されている。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:idea lensai detectionpangramgoogle deepminduniversity of marylandchatgpt

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →