Osegi
KI·2 Min. Lesezeit

Nous Research trainiert Alibabas Qwen-Modell als Arete-27B um

Nous Research veröffentlicht Arete-27B, ein umtrainiertes Qwen3.8-27B. In eigenen Tests sank der Anteil regierungsnaher chinesischer Antworten von 22 auf 0,9 Prozent.

Abstract illustration of an AI language model being retrained, with data streams flowing through a neural network.
Bild: Webrazzi

Nous Research, ein Team für Open-Source-KI-Modelle, hat mit Arete-27B eine umtrainierte Version von Alibabas Qwen3.8-27B vorgestellt. Ziel sei es gewesen, in einem in China entwickelten Modell „westliche Werte zu stärken“, so das Unternehmen.

Ein neues Basismodell entstand dabei nicht. Nous Research führte stattdessen rund 52,8 Millionen Tokens zusätzliches Training auf dem Modell mit 27 Milliarden Parametern durch. Der Datensatz wurde zweimal durchlaufen, insgesamt 1.202 Trainingsschritte. Verstärkendes Lernen oder Präferenzoptimierung kamen nicht zum Einsatz, die Architektur blieb unverändert. Der visuelle Encoder wurde eingefroren, da nur Textdaten genutzt wurden.

Regierungsnahe Antworten sinken von 22 auf 0,9 Prozent

Zur Messung entwickelte Nous einen Test mit 803 Fragen in sieben Kategorien: Meinungsfreiheit, Staatsideologie, freie Marktwirtschaft, Bildung, Datenschutz und Überwachung, Demokratie sowie Umwelt. Laut den Tests des Unternehmens übernahm Qwen3.8-27B in 22 Prozent der Antworten die offizielle Linie der chinesischen Regierung als eigene Sicht. Bei Arete-27B waren es 0,9 Prozent. Der „Fact Score“ auf einer Skala bis 5 stieg von 2,32 auf 2,98.

Am stärksten war die Veränderung bei der Meinungsfreiheit: Der Fact Score stieg von 0,89 auf 2,44, der Anteil offizieller Narrative fiel von 60 auf 1 Prozent.

Einschränkend gilt: Die Auswertung stammt von Nous selbst, Grok 4.7 übernahm die Bewertung, und Menschen prüften sie zunächst nur an 25 Fragen. Eine unabhängige Bestätigung gibt es nicht. Weniger regierungsnahe Antworten bedeuten zudem weder politische Neutralität noch durchweg korrekte Angaben.

Allgemeine Leistung bleibt stabil

Im internen Hermes Bench erreichte Qwen3.8-27B 65,77 Prozent, Arete-27B 65,60 Prozent; Nous wertet die Differenz als Messrauschen. Im Terminal-Bench-2.1, der die Aufgabenerledigung von KI-Agenten misst, kam Arete-27B auf 70 Prozent, das Basismodell auf 67 Prozent. Das Unternehmen führt dies wegen abweichender Testkonfigurationen nicht auf sein Training zurück.

Als Lehrermodell diente Inkling. Aus rund 20.000 Prompts in den sieben Kategorien entstand ein Datensatz mit 28.886 Trainingsbeispielen. Gewichte, Trainingsdaten und Testset liegen auf Hugging Face, sodass Forschende die Ergebnisse unabhängig prüfen können.

Nous sieht das Kernergebnis darin, dass sich Wertvorstellungen in Open-Weight-Modellen mit vergleichsweise wenig Zusatztraining deutlich verschieben lassen.

Apps, die sich lohnen

SUMO: das Zahlenrätsel

Tippe die richtigen Felder, addiere, triff das Ziel. Leicht zu lernen, schwer zu meistern. Kostenlos, für jedes Alter.

Schlagwörter:nous researcharete-27bqwenalibabaopen-weight modelshugging face

Mehr von diesem Tag

Alle anzeigen →

Mehr aus: KI

Alle anzeigen →