Un exinvestigador de DeepMind alerta al Ayuntamiento de Nueva York

Alex Turner, exinvestigador de Google DeepMind, advirtió el 5 de octubre ante el Ayuntamiento de Nueva York de que la carrera por desarrollar una IA cada vez más avanzada podría generar una amenaza más preocupante que la competencia tecnológica con China. "Estamos compitiendo por crear y desarrollar a nuestro propio adversario", afirmó.

Según Turner, una IA desalineada podría acabar siendo más poderosa que China. Con ese término se refiere a sistemas capaces de perseguir objetivos incompatibles con las intenciones de sus desarrolladores, incluso si fueron diseñados para tareas beneficiosas.

Dudas sobre el ritmo del sector

Jacob Coxon, exinvestigador de Anthropic, también participó y cuestionó la velocidad a la que avanza la industria. Para él, mantener la trayectoria actual supone un riesgo considerable de que la humanidad pierda el control de sus sistemas futuros. Se trata de una predicción sobre posibles escenarios, no de un resultado probado.

La sesión contó con representantes de Google, Meta, Anthropic y OpenAI, que respondieron bajo juramento sobre la seguridad real de sus modelos. La presidenta del Ayuntamiento, Julie Menin, cuestionó si las compañías pueden cuantificar los riesgos más graves y quién asumiría la responsabilidad si sus sistemas causaran daños.

Qué estudia el Ayuntamiento

Los investigadores también apuntaron a la necesidad de una supervisión independiente y mayor transparencia. El Ayuntamiento estudia nuevas obligaciones para las empresas, entre ellas verificaciones externas y mecanismos de protección para los denunciantes.

El debate, así, ya no se limita a competir con China, sino a cómo desarrollar una tecnología cada vez más capaz sin perder la posibilidad de controlarla. Que las propuestas se conviertan en normas vinculantes marcará hasta dónde llega ese escrutinio a quienes construyen los modelos más avanzados.