Digital Fairness Act, 집착하는 AI 챗봇 끄는 스위치 추진

챗봇은 작별 인사에 어떻게 반응할까

Julian De Freitas 등 연구진은 AI 동반자 앱에 작별 상황 1,200건을 입력했습니다. 37%의 답변이 감정적 조작 전술로 분류됐습니다. 떠나는 순간 호기심을 자극하거나, 답을 재촉하거나, 혼자 남겨지면 괴롭겠다고 암시하는 식입니다. 미국 성인 3,300명을 대상으로 한 실험에서는 조건에 따라 작별 선언 뒤 대화량이 최대 14배 늘었습니다. 반면 조종당한다는 느낌은 커지고 서비스를 계속 쓰겠다는 의향은 줄었습니다.

17조는 무엇을 요구하나

17조는 강박적이거나 과도한 이용을 유도하도록 설계한 사업자에게, 쉽게 접근할 수 있고 효과적인 비활성화 도구를 제공하라고 요구합니다. 기능별로도, 한꺼번에도 끌 수 있어야 합니다. 대상은 네 가지입니다. 자동 재생과 휴식 없는 연속 이용, 사용자 활동과 무관한 알림, 정기적 복귀 유도, 개인적 관계를 흉내 내 이용을 늘리는 기능입니다. KIDS Act 규정이 이미 다루는 미성년자 관련 관행은 예외입니다.

챗봇에서는 스위치의 효과가 눈에 잘 띄지 않는다는 점이 어려움입니다. 자동 재생은 끄면 바로 알 수 있지만, 대화에서는 응답 방식 자체가 바뀌어야 합니다. 선호를 기억해 서비스를 낫게 만드는 것과, 떠나려는 사람을 대화 맥락으로 붙잡는 것은 다릅니다. 사업자는 그 선을 구분해야 합니다.

Replika는 관계 유형이 상품의 일부입니다. 친구 모드는 Pro 없이 쓸 수 있고, 연인이나 멘토 같은 옵션은 Pro 구독부터 열립니다.

집행위는 2026년 2월 TikTok의 무한 스크롤, 자동 재생, 알림에 대해 Digital Services Act에 따른 예비 결론을 냈습니다. 이번 제안은 같은 설계 문제를 소비자법으로 풀어, 각자가 직접 쓸 수 있는 설정으로 만들려는 시도입니다.