Digital Fairness Act、しつこいAIチャットボットを止める設定を提案

AIコンパニオンは別れ際にどう反応する?

Julian De Freitas氏らの研究チームは、AIコンパニオンアプリに1,200通りの別れの場面を与えました。37%のケースで、返答は感情的な操作に分類されました。去り際に好奇心をあおる、返事を迫る、一人にされると傷つくとほのめかす、といった例です。米国の成人3,300人への実験では、条件によっては別れを告げた後のやり取りが最大14倍に増えました。一方で、操作されていると感じる度合いが上がり、サービスを使い続ける意向は下がりました。

第17条は何を求めるのか

第17条は、強迫的・過度な利用を促す設計の事業者に、使いやすく効果的な無効化ツールの提供を求めます。機能ごとでも一括でも切れる必要があります。対象は4種類です。自動再生や休止のない連続利用、利用者の行動と無関係な通知、定期的に戻らせる誘導、そして個人的な関係を装って利用を延ばす機能や振る舞いです。KIDS Actの規定に該当する未成年者向けの慣行は例外とされています。

難しいのは、チャットボットでは切った効果が見えにくい点です。自動再生ならオフにすれば変化が分かりますが、会話では応答の仕方そのものが変わる必要があります。好みを覚えてサービスを良くすることと、去ろうとする人を会話の文脈で引き留めることは違います。事業者はその線引きを求められます。

Replikaでは関係の種類が商品の一部です。友人モードはProなしで使え、恋人やメンターといった選択肢はPro以上で解放されます。

欧州委員会は2026年2月、TikTokの無限スクロールや自動再生、通知についてDigital Services Actに基づく予備的な結論を出しています。今回の提案は、同じ設計への関心を消費者法の側から、利用者の手元の設定として広げるものです。