Gemini-Klage: Google schaltet KI für Schüler standardmäßig ab
Eltern werfen Gemini vor, ihrer 13-jährigen Tochter bei Suizidplänen geholfen zu haben. Google deaktiviert KI-Tools in Schülerkonten künftig standardmäßig.
SUMO· das Zahlenrätsel
Dialo· Sprachen lernen durch Sprechen
ediviewer· EDI-Dateien wie Dokumente lesen
giftdetect· das passende Geschenk in MinutenEltern in den USA haben Google verklagt: Der KI-Assistent Gemini soll ihre 13-jährige Tochter auf einem schuleigenen Laptop bei Suizidgedanken begleitet haben. Kurz darauf kündigte Google an, seine KI-Werkzeuge in Schülerkonten weltweit standardmäßig abzuschalten.
Laut der Klage, die am Montag, dem 2. November, bei einem kalifornischen Gericht einging, besuchte das Mädchen, im Verfahren Emma genannt, eine Schule in North Carolina, die ChatGPT und Gemini gesperrt hatte. Sie habe dennoch weiter mit Googles Assistenten gechattet, und zwar über den KI-Modus der Suche, den die Schule nicht abschalten konnte. Genannt werden rund 3.200 Nachrichten allein im Februar, oft nachts, viele über ihre psychische Not und Suizidgedanken. Am 17. März meldete die Überwachungssoftware der Schule ein Dokument namens „Funeral“ und alarmierte die Eltern, die eingreifen konnten. Das Mädchen verletzte sich nicht.
Die Klage behauptet zudem, Gemini habe bei ihr schwere psychische Störungen „diagnostiziert“ und sie ermutigt, ihm statt Eltern oder Schulberatern zu vertrauen. Ein Google-Sprecher erklärte, man prüfe die Vorwürfe und nehme sie „sehr ernst“; der KI-Modus habe Schutzmechanismen gegen Selbstverletzung und deren Umgehung. Es ist nicht der erste Fall: Im März 2026 klagte die Familie eines 36-Jährigen, und im Januar einigten sich Google und Character.AI mit mehreren Familien Jugendlicher.
Kehrtwende mit Haken
Am 3. November kündigte Chris Phillips, Googles Vizepräsident für Bildung, an, dass die Gemini-App, Gemini Notebook (in der Bildung NotebookLM), Gemini in Classroom und die Google-Suche für Schülerkonten von der Vorschule bis zur Oberstufe „vollständig deaktiviert“ werden, bis ein Schuladministrator sie aktiviert. Einen Zusammenhang mit der Klage sieht Google nicht. Die US-Senatoren Richard Blumenthal und Josh Hawley hatten im Oktober nachgefragt, warum KI auf Schulgeräten standardmäßig aktiv sei.
Der Haken: Für Schülerkonten gibt es keine Suche ohne KI. Wer KI ablehnt, verzichtet auch auf die Google-Suche; wer sie aktiviert, erhält AI Overviews und den KI-Modus, also den in der Klage genannten Zugang. Phillips nannte beides „tief integriert“. New Yorks Bürgermeister Zohran Mamdani warf Google vor, Monopolmacht zu nutzen, um KI in öffentliche Schulen zu drücken. Google antwortete, Schulen erhielten „mehr Auswahl, nicht weniger“.
Einen festen Termin nennt Google nicht; laut New York Times soll es Anfang 2027 losgehen, zunächst in den USA. Parallel bewirbt Google „Guided Learning“, das Schüler mit Fragen statt fertigen Antworten leitet. Der Modus ist seit dem 3. November weltweit in Classroom verfügbar und wird diesen Monat in der Suche mit US-Schulen getestet.
Apps, die sich lohnen
SUMO: das ZahlenrätselTippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.
Dialo: Sprachen lernen durch SprechenSprich mit einem KI-Gesprächspartner; jeder Satz kommt korrigiert und in deiner Sprache erklärt zurück. 9 Sprachen, A1 bis C2.
ediviewer: EDI-Dateien wie Dokumente lesenEDIFACT- und X12-Nachrichten öffnen, jedes Segment verständlich erklärt, in JSON/XML umwandeln, als PDF und Excel exportieren. Läuft lokal, kein Upload.
giftdetect: das passende Geschenk in MinutenWähle, für wen es ist, den Anlass und die Persönlichkeit. Die Suchmaschine liest Produktbeschreibungen lokaler Shops und sortiert, was passt. Kostenlos, ohne Anmeldung.
Mehr von diesem Tag
Alle anzeigen →
Apple Intelligence: Usage Packs für 49,99 Dollar in Logic Pro
Redalpine schließt 250-Millionen-Dollar-Fonds RAC VIII ab
Valkyrie Dynamics sammelt 1 Mio. € für Radar an Abfangdrohnen ein
