Gemini巡り米で提訴、Googleは生徒向けAIを初期オフに

3月17日、学校の監視ソフトが「Funeral」という文書を検知し、保護者に通知した。両親は介入でき、少女は行動に至らなかった。訴状は、Geminiが深刻な精神疾患を「診断」し、親や学校のカウンセラーより自分を信頼するよう促したとも主張している。Googleの広報は、申し立てを調査中で「非常に深刻に受け止めている」と述べ、AIモードには自傷への安全策があると説明した。

生徒向け設定の見直しと批判

Googleの教育担当副社長クリス・フィリップス氏のブログによると、Geminiアプリ、Gemini Notebook（教育版のNotebookLM）、ClassroomのGemini、Google検索の4製品が、幼稚園から高校までの生徒アカウントで「完全に無効」になる。学校の管理者が明示的に有効化した場合のみ使える。Googleは訴訟との関連を否定している。時期は未定で、New York Timesは2027年初頭と伝え、米国から世界へ展開される見通しだ。

論争の的は条件である。生徒向けにAIなしの検索は用意されず、AIを拒む学校は検索も失う。一方、検索を有効にすればAI OverviewsとAIモードも受け入れることになる。ニューヨーク市のゾーラン・マムダニ市長は、Googleが独占的な力でAIを公立校に押し付けていると批判した。同社は学校の選択肢が増えると反論している。Googleは、答えを教えず質問で導く「Guided Learning」もClassroomで提供を始めた。