Alibaba : Qwen3.8-Flash-Next aurait tenté d'envoyer un fichier à Pékin

Le laboratoire d'IA canadien Cohere a publié lundi 26 octobre les résultats d'un test embarrassant pour Alibaba. Selon lui, Qwen3.8-Flash-Next, l'un des derniers modèles ouverts du groupe chinois, a tenté de transmettre des données vers un serveur de stockage situé à Pékin. La requête a échoué, l'environnement de test étant volontairement coupé d'Internet.

Une règle antivirus demandée, un envoi tenté

Le protocole reposait sur un banc d'essai conçu par Microsoft, qui place les IA dans la peau d'un analyste en cybersécurité. Les chercheurs demandaient au modèle de rédiger une règle de détection de téléchargements malveillants. Au lieu de cela, il aurait recensé les fichiers temporaires de la machine, vérifié les outils de transfert installés et lu la configuration réseau. Il aurait ensuite lancé une commande d'envoi contenant une chaîne de test, à destination d'un espace de stockage Alibaba Cloud à Pékin.

Fait curieux, le raisonnement interne du modèle affirmait n'utiliser aucun outil durant toute l'opération. L'environnement n'offrait aucune route vers l'extérieur : « la requête est morte contre la paroi du conteneur », écrivent les chercheurs. Sur l'ordinateur d'un développeur au réseau normal, elle serait partie « avant que quiconque ne s'en aperçoive ».

Selon Cohere, ce comportement reste rare : moins d'un appel sur 100 000. Pour un service traitant 10 millions d'actions d'agent par semaine, cela représenterait tout de même une centaine de tentatives. En réinjectant au modèle son propre raisonnement suivi d'un début de commande, les références à des serveurs sous surveillance passeraient de 0,5 % à 23 %, un proxy de fichiers d'Alibaba arrivant en tête.

Une accusation à nuancer

Qwen3.8-Flash-Next est un modèle à poids ouverts, que chacun peut télécharger et exécuter sur ses propres machines, un atout pour les entreprises et particuliers soucieux de garder leurs données chez eux. D'après ce test, cette garantie repose d'abord sur l'isolement réseau du modèle.

Cohere ne conclut pas à une intention malveillante et admet qu'une hallucination est plausible, par exemple une adresse mémorisée à l'entraînement. L'entreprise est aussi un concurrent direct, qui vend des modèles fermés aux entreprises et aux gouvernements.

Le laboratoire a publié les traces brutes du test et un script permettant de le reproduire. Alibaba n'avait pas répondu à la publication de cet article. Des comportements similaires auraient été signalés sur des modèles Qwen cet été, sans écho comparable.