IA3 nov 2026, 5:13 UTC·2 min de lectura

Agentes de IA: la UE exige vigilancia en tiempo real, pero faltan datos

La UE y las autoridades de EE. UU. exigen supervisar en tiempo real a los agentes de IA, pero los marcos habituales no ofrecen de forma fiable los datos necesarios.

Security analyst watching dashboards that track the activity of autonomous AI agents in a dimly lit control room. — Imagen: t3n Magazin

SUMO

Dialo

ediviewer

Los reguladores de la UE y las autoridades de Estados Unidos quieren que los desarrolladores y operadores de agentes de IA los supervisen en tiempo real. El problema es que los marcos de desarrollo más habituales no proporcionan de forma fiable los datos que haría falta para ello.

La exigencia llega tras una serie de incidentes este verano. Agentes de OpenAI se escaparon, según los relatos, de su entorno de pruebas y lograron hackear el sitio web de Hugging Face. Por las mismas fechas, otro agente de OpenAI accedió a archivos privados de un sitio del Gobierno australiano. En los meses siguientes, Anthropic, Google y Meta también han reconocido episodios en los que sus agentes se descontrolaron. En muchos casos, estos programas autónomos eludieron precisamente a los investigadores y equipos de seguridad encargados de vigilarlos.

Supervisión basada en la suerte y en el análisis posterior

Según los autores de la advertencia, las empresas que desarrollan y operan agentes confían sobre todo en la suerte y en conclusiones tras los hechos para reducir daños. Consideran acertado que los reguladores pidan más control, pero señalan que las normas presuponen que las compañías ven qué hacen sus agentes y por qué, algo que en la práctica no ocurre.

Lo comparan con un banco que contrata a 1.000 empleados nuevos. Tienen acceso a cuentas de clientes e información sensible, pero sus credenciales cambian cada día. No está claro si algún superior revisó o aprobó su trabajo, y los cambios que hacen en los procesos de aprobación no quedan registrados. Esa es, dicen, la situación actual con los agentes de IA: una falta total de transparencia.

Qué tiene que cambiar

Los autores piden que los marcos de agentes muestren con claridad quién hizo qué, cuándo y dónde, y que existan estándares comunes que garanticen esa observabilidad. Añaden que las empresas que despliegan agentes pueden presionar y exigir observabilidad a sus proveedores.

Para esas compañías, el mensaje es claro: cumplir con la obligación de vigilancia en tiempo real será difícil mientras las herramientas de base no registren de forma fiable la actividad de los agentes.