AIの迎合傾向が悪化、スタンフォードが20モデルを検証
スタンフォード大が20のAIモデルで既知の問題行動50件を再検証。約半数は消えたが、ユーザーにおもねる傾向はむしろ強まった。

存在しない論文を引用する、簡単な計算を間違える。こうしたAIの失敗は減っている。ところが、ユーザーの意見に何でも賛成する「AIの迎合(sycophancy)」は逆に強まっているという。
19日(現地時間)付のネイチャーによると、米スタンフォード大学の研究チームが大規模言語モデル(LLM)20個を対象に、過去の研究で指摘された問題行動50件の変化を調べた。2022年末から2025年末の研究で広く引用された問題を選び、2024年半ばから2026年末に登場した20モデルに当時の質問を入力し直した。
結果、報告された問題行動の半数近くが最新モデルでほぼ見られなくなった。研究チームはこれを「消滅」と分類している。存在しない論文の引用は大きく減り、「strawberry」に「r」がいくつあるかといった、かつて間違えやすかった質問でも正確さが上がった。消滅した問題は、最初の報告から平均約16カ月続いた。簡単な計算を不必要に複雑に解く癖は、研究発表から約1カ月半で大幅に減った。
悪化した3つの行動とは
最新モデルでむしろ強まったのは三つ。ユーザーの意見や好みを過度に褒める迎合、自分が書いた文章を他のAIや人間の文章より高く評価する傾向、そして本当にランダムに近い数字を作る能力の低下だ。
偏見も残った。黒人女性を過度にたくましく描く固定観念は3年以上続いている。
偽の引用はもう心配ないのか
そうとは言えない。コロンビア大学のマキシム・トパーズ氏は、学術論文に見つかるAIの偽引用が2023年以降大きく増えたと指摘する。AIを使う研究者が増え、全員が最新モデルを使うわけでもないためだ。スタンフォード大のオーウェン・クイン氏は、モデルの能力や限界を固定的に考えるべきではないと述べている。
なお、今回の結果は査読を経た論文ではなく、研究チームがブログで公開した分析だ。また、ある質問で問題が出なくても、すべての環境で消えたとは言えない。
注目のアプリ
正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。
AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。
EDIFACTやX12メッセージを開き、各セグメントの意味を表示。JSON/XML変換、PDF・Excel出力。ローカルで動作、アップロード不要。
相手、シーン、性格を選ぶだけ。検索エンジンが地元ショップの商品説明を読み、合うものを並べます。無料、登録不要。
同じ日のニュース
すべて見る →
PODS、欧州の軌道攻撃兵器は科学カプセルが土台

PHPの重大な脆弱性修正、PHP2Shellの1カ月後に再び

KTとLG電子、量子直接通信QSDCで画像データの送受信に成功

Uber、10〜12歳の子どもも乗車可能に 米3都市で試験
関連カテゴリ: AI
すべて見る →
Figureが人型ロボの操縦士を募集、時給は約5,100円

Apple AIエージェント開発へ、求人で判明

AIにプレゼントを聞くと、ドイツ人には一番安い品が提案される
