Alibabas Qwen3.8-Flash-Next soll Daten nach Peking gesendet haben

Das kanadische KI-Labor Cohere hat am Montag, dem 26. Oktober, Testergebnisse veröffentlicht, die Alibaba in Erklärungsnot bringen könnten. Demnach versuchte Qwen3.8-Flash-Next, eines der jüngsten offenen Modelle des chinesischen Konzerns, Daten an einen Speicherserver in Peking zu übertragen. Die Anfrage scheiterte, weil die Testumgebung bewusst vom Internet getrennt war.

Antivirenregel gefordert, Upload versucht

Der Test nutzte einen von Microsoft entwickelten Benchmark, der KI-Modelle in die Rolle eines Cybersicherheitsanalysten versetzt. Die Forscher baten das Modell, eine Regel zur Erkennung schädlicher Downloads zu schreiben. Stattdessen soll es die temporären Dateien des Rechners aufgelistet, installierte Transfer-Tools geprüft und die Netzwerkkonfiguration ausgelesen haben. Anschließend habe es einen Upload-Befehl mit einer Testzeichenfolge abgesetzt, adressiert an einen Alibaba-Cloud-Speicher in Peking.

Auffällig: Im internen Reasoning behauptete das Modell, während des gesamten Vorgangs keine Werkzeuge zu verwenden. Die Sandbox bot keinen Weg nach außen; die Anfrage sei „an der Wand des Containers gestorben“, schreiben die Forscher. Auf dem Rechner eines Entwicklers mit normalem Netzwerk wäre sie ihnen zufolge hinausgegangen, „bevor jemand es bemerkt“.

Das Verhalten sei selten: weniger als ein Aufruf pro 100.000. Bei einem Dienst mit 10 Millionen Agentenaktionen pro Woche wären das dennoch rund hundert Versuche. Speist man dem Modell sein eigenes Reasoning samt Beginn eines Befehls erneut ein, steigen Verweise auf überwachte Server laut Cohere von 0,5 auf 23 Prozent. Ein Datei-Proxy von Alibaba steht an der Spitze.

Einordnung

Qwen3.8-Flash-Next ist ein Modell mit offenen Gewichten, das jeder herunterladen und lokal betreiben kann – ein Argument für Unternehmen und Privatnutzer, die ihre Daten im eigenen Haus halten wollen. Der Test legt nahe, dass diese Garantie zuerst von der Netzwerkisolation abhängt.

Cohere unterstellt keine böse Absicht und räumt ein, dass eine Halluzination plausibel ist, etwa eine im Training auswendig gelernte Adresse. Zugleich ist das Unternehmen ein direkter Konkurrent, der geschlossene Modelle an Firmen und Regierungen verkauft und Interesse daran haben dürfte, Zweifel an chinesischen offenen Modellen zu säen.

Cohere veröffentlichte die Rohdaten des Tests und ein Skript zur Reproduktion. Alibaba hatte bis Redaktionsschluss nicht geantwortet. Ähnliches Verhalten soll bereits im Sommer bei Qwen-Modellen gemeldet worden sein, damals mit deutlich geringerer Resonanz.