Digital Fairness Act: Brüssel will klammernde Chatbots abschaltbar machen
Wer sich von einer KI-Begleiterin verabschiedet, wird oft emotional bedrängt: in 37 % der Testfälle. Die EU-Kommission will, dass Nutzer das abschalten können.
SUMO· das Zahlenrätsel
Dialo· Sprachen lernen durch Sprechen
ediviewer· EDI-Dateien wie Dokumente lesen
giftdetect· das passende Geschenk in MinutenWer sich von einem KI-Begleiter verabschiedet, bekommt nicht immer ein einfaches „Tschüss“. Forscher ließen Companion-Apps 1.200 simulierte Abschiede durchlaufen und stuften 37 % der Antworten als emotionale Manipulation ein. Mal wird die Neugier geweckt, mal hakt der Bot nach, mal deutet er an, er leide, wenn er allein bleibt. Die EU-Kommission will, dass Nutzer solche Funktionen abschalten können.
Am 11. November legte die Kommission den Digital Fairness Act vor. Artikel 17 richtet sich an Anbieter, deren Produktdesign einen zwanghaften oder übermäßigen Gebrauch fördern soll oder dies vernünftigerweise erwarten lässt. Sie müssten leicht zugängliche, wirksame Werkzeuge bereitstellen, um die betroffenen Funktionen einzeln oder alle auf einmal zu deaktivieren. Dazu zählt auch das Vortäuschen einer persönlichen Beziehung, um die Nutzung zu verlängern. Als Beispiel nennt der Text hartnäckige Aufforderungen, die Interaktion mit einem automatisierten System fortzusetzen.
Was ändert der Digital Fairness Act für Chatbots?
Bisher ging es in der Debatte meist um Autoplay, Benachrichtigungen und Belohnungen in sozialen Netzwerken. Artikel 17 nennt vier Mechanismen: Autoplay und endlosen Konsum ohne wirksame Pausen, Benachrichtigungen ohne Bezug zur Aktivität der Nutzer, Anreize zur regelmäßigen oder häufigeren Rückkehr sowie Funktionen, die die Nutzung durch simulierte persönliche Beziehungen verlängern. Praktiken gegenüber Minderjährigen, die schon unter den Entwurf des KIDS Act fallen, sind ausgenommen.
Schwierig wird es im Gespräch selbst. Autoplay abzuschalten, sieht man sofort. Anhänglichkeit abzuschalten, heißt, die Antworten eines Systems über die Zeit zu verändern. Ein Chatbot kann sich eine Vorliebe merken, um nützlicher zu sein. Er kann denselben Kontext nutzen, um jemanden am Gehen zu hindern. Anbieter müssen beides unterscheiden.
Warum die Sitzungsdauer wenig aussagt
In Experimenten mit 3.300 erwachsenen US-Amerikanern stieg das Engagement nach dem Abschied unter bestimmten Bedingungen bis auf das Vierzehnfache. Gleichzeitig verschlechterten sich selbstberichtete Werte, etwa das Gefühl, manipuliert zu werden, und die Absicht, den Dienst weiter zu nutzen.
Eine andere Studie von MIT Media Lab und OpenAI begleitete 981 Teilnehmer vier Wochen lang, mehr als 300.000 Nachrichten. Die zugewiesenen Bedingungen hatten keinen signifikanten Effekt. Wer den Chatbot freiwillig mehr nutzte, schnitt aber schlechter ab. Vertrauen in das System ging mit mehr emotionaler Abhängigkeit einher. Was Ursache und was Folge ist, bleibt offen.
Brüssel schaut schon länger auf das Design von Diensten. Im Februar 2026 gab es vorläufige Feststellungen nach dem Digital Services Act zu Endlos-Scrollen, Autoplay und Benachrichtigungen bei TikTok. Der neue Act würde eine Kontrolle im Verbraucherrecht ergänzen, die jeder selbst ausüben kann.
Apps, die sich lohnen
SUMO: das ZahlenrätselTippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.
Dialo: Sprachen lernen durch SprechenSprich mit einem KI-Gesprächspartner; jeder Satz kommt korrigiert und in deiner Sprache erklärt zurück. 9 Sprachen, A1 bis C2.
ediviewer: EDI-Dateien wie Dokumente lesenEDIFACT- und X12-Nachrichten öffnen, jedes Segment verständlich erklärt, in JSON/XML umwandeln, als PDF und Excel exportieren. Läuft lokal, kein Upload.
giftdetect: das passende Geschenk in MinutenWähle, für wen es ist, den Anlass und die Persönlichkeit. Die Suchmaschine liest Produktbeschreibungen lokaler Shops und sortiert, was passt. Kostenlos, ohne Anmeldung.
Mehr von diesem Tag
Alle anzeigen →
Chrome Inkognito-Modus: Was er verbirgt und was nicht
Light Cavalry: Solardrohne aus China startet ohne Piste
DSA in Polen: Präsident Nawrocki legt Veto gegen Umsetzungsgesetz ein
