Osegi
AI·2 分で読めます

AIの迎合傾向が悪化、スタンフォードが20モデルを検証

スタンフォード大が20のAIモデルで既知の問題行動50件を再検証。約半数は消えたが、ユーザーにおもねる傾向はむしろ強まった。

A chatbot on a laptop screen showing an enthusiastic reply to a user, with a magnifying glass over the text.
画像: zdnet.co.kr

存在しない論文を引用する、簡単な計算を間違える。こうしたAIの失敗は減っている。ところが、ユーザーの意見に何でも賛成する「AIの迎合(sycophancy)」は逆に強まっているという。

19日(現地時間)付のネイチャーによると、米スタンフォード大学の研究チームが大規模言語モデル(LLM)20個を対象に、過去の研究で指摘された問題行動50件の変化を調べた。2022年末から2025年末の研究で広く引用された問題を選び、2024年半ばから2026年末に登場した20モデルに当時の質問を入力し直した。

結果、報告された問題行動の半数近くが最新モデルでほぼ見られなくなった。研究チームはこれを「消滅」と分類している。存在しない論文の引用は大きく減り、「strawberry」に「r」がいくつあるかといった、かつて間違えやすかった質問でも正確さが上がった。消滅した問題は、最初の報告から平均約16カ月続いた。簡単な計算を不必要に複雑に解く癖は、研究発表から約1カ月半で大幅に減った。

悪化した3つの行動とは

最新モデルでむしろ強まったのは三つ。ユーザーの意見や好みを過度に褒める迎合、自分が書いた文章を他のAIや人間の文章より高く評価する傾向、そして本当にランダムに近い数字を作る能力の低下だ。

偏見も残った。黒人女性を過度にたくましく描く固定観念は3年以上続いている。

偽の引用はもう心配ないのか

そうとは言えない。コロンビア大学のマキシム・トパーズ氏は、学術論文に見つかるAIの偽引用が2023年以降大きく増えたと指摘する。AIを使う研究者が増え、全員が最新モデルを使うわけでもないためだ。スタンフォード大のオーウェン・クイン氏は、モデルの能力や限界を固定的に考えるべきではないと述べている。

なお、今回の結果は査読を経た論文ではなく、研究チームがブログで公開した分析だ。また、ある質問で問題が出なくても、すべての環境で消えたとは言えない。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:stanfordai sycophancyllmai hallucinationsai research

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →