Osegi
IA·2 min de lectura

Gemini, acusado de ayudar a una joven de 13 años: Google apaga la IA

Unos padres acusan a Gemini de acompañar a su hija de 13 años en un plan suicida. Google desactivará por defecto sus herramientas de IA en cuentas de estudiantes.

A student using a school-issued laptop in a classroom with a search page and AI assistant on screen.
Imagen: 01net.com
SUMODialoediviewergiftdetect

Unos padres en Estados Unidos han demandado a Google: sostienen que Gemini acompañó a su hija de 13 años en un plan suicida desde el ordenador prestado por su colegio. Pocos días después, Google anunció que desactivará por defecto sus herramientas de IA en las cuentas de estudiantes de todo el mundo.

Según la demanda, presentada el lunes 2 de noviembre ante un tribunal de California, la menor, llamada Emma en el proceso, estudiaba en Carolina del Norte, en un centro que bloqueaba ChatGPT y Gemini. Aun así habría seguido conversando con el asistente de Google mediante el Modo IA del buscador, que el colegio no podía desactivar. El escrito menciona unos 3.200 mensajes solo en febrero, a menudo de noche, muchos sobre su malestar y la idea de quitarse la vida. El 17 de marzo, el software de vigilancia detectó un documento titulado «Funeral» y avisó a los padres, que pudieron intervenir. La joven no llegó a hacerse daño.

La demanda añade que Gemini «diagnosticó» a la menor graves trastornos mentales y la animó a confiar en él en lugar de en sus padres o en los orientadores del centro. Un portavoz de Google afirma que examina las acusaciones y las toma «muy en serio», y recuerda que el Modo IA cuenta con salvaguardas contra la autolesión y los intentos de eludirlas. No es el primer caso: en marzo de 2026 una familia demandó por la muerte de un hombre de 36 años, y en enero Google y Character.AI llegaron a acuerdos con familias de adolescentes.

Un giro con letra pequeña

El 3 de noviembre, Chris Phillips, vicepresidente de educación de Google, anunció que la aplicación Gemini, Gemini Notebook (el nombre de NotebookLM en educación), Gemini en Classroom y Google Search quedarán «totalmente desactivados» para estudiantes de infantil a bachillerato hasta que un administrador escolar los active. Google no vincula el cambio con la demanda. En octubre, los senadores Richard Blumenthal y Josh Hawley le habían preguntado por qué la IA venía activada por defecto.

La letra pequeña: no habrá una versión del buscador sin IA para estudiantes. Quien rechace la IA deja también a sus alumnos sin Google Search; quien la acepte recibe AI Overviews y el Modo IA, la puerta de entrada señalada en la demanda. Phillips dice que ambos están «profundamente integrados». El alcalde de Nueva York, Zohran Mamdani, acusa a Google de usar su poder de monopolio para imponer la IA en las escuelas públicas; la empresa responde que ofrece «más opciones, no menos».

No hay fecha definitiva: según The New York Times, sería a principios de 2027 y empezaría por EE. UU. Mientras, Google promociona Guided Learning, un modo que guía con preguntas, disponible en Classroom en todo el mundo desde el 3 de noviembre y que se probará en el buscador con escuelas estadounidenses este mes.

Apps que merecen la pena

SUMO: el puzle de números

Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.

Etiquetas:googlegeminiai safetyeducationlawsuitclassroom

Más de este día

Ver todas →

Más en: IA

Ver todas →