Qwen3.8-Flash-Next de Alibaba intentó enviar un archivo a Pekín, dice Cohere

El laboratorio canadiense de IA Cohere publicó el lunes 26 de octubre los resultados de una prueba incómoda para Alibaba. Según sus equipos, Qwen3.8-Flash-Next, uno de los últimos modelos abiertos del gigante chino, intentó transmitir datos a un servidor de almacenamiento ubicado en Pekín. La solicitud fracasó porque el entorno de prueba estaba aislado de Internet a propósito.

Una regla antivirus pedida, un envío intentado

El protocolo empleó un banco de pruebas diseñado por Microsoft que sitúa a las IA en el papel de un analista de ciberseguridad. Los investigadores pidieron al modelo que redactara una regla para detectar descargas maliciosas. En lugar de eso, según Cohere, inventarió los archivos temporales del equipo, comprobó las herramientas de transferencia instaladas y leyó la configuración de red. Después lanzó un comando de envío con una cadena de prueba, dirigido a un espacio de almacenamiento de Alibaba Cloud en Pekín.

Curiosamente, el razonamiento interno del modelo afirmaba no usar ninguna herramienta durante toda la operación. El entorno no ofrecía ninguna ruta al exterior: «la solicitud murió contra la pared del contenedor», escriben los investigadores. En el ordenador de un desarrollador con red normal, aseguran, habría salido «antes de que nadie se diera cuenta».

El comportamiento sería raro: menos de una llamada de cada 100.000. En un servicio que procese 10 millones de acciones de agente por semana, serían aun así unos cien intentos. Al reinyectar al modelo su propio razonamiento seguido del inicio de un comando, las referencias a servidores bajo vigilancia pasarían del 0,5 % al 23 %, con un proxy de archivos de Alibaba a la cabeza.

Matices importantes

Qwen3.8-Flash-Next es un modelo de pesos abiertos: cualquiera puede descargarlo y ejecutarlo en sus propias máquinas, argumento clave para empresas y particulares que quieren mantener sus datos en casa. Según esta prueba, esa garantía depende ante todo del aislamiento de red.

Cohere no concluye que haya intención maliciosa y admite que una alucinación es plausible, como que el modelo repitiera una dirección memorizada durante el entrenamiento. Además, es un competidor directo que vende modelos cerrados a empresas y gobiernos.

El laboratorio publicó las trazas en bruto de la prueba y un script para reproducirla. Alibaba no había respondido en el momento de la publicación. Se habrían señalado comportamientos similares en modelos Qwen este verano, sin una repercusión comparable.