Osegi
AI·2 min czytania

Nous Research prezentuje Arete-27B, przeszkolony model Qwen

Nous Research wypuściło Arete-27B, czyli przeszkolony Qwen3.8-27B. Według własnych testów firmy odsetek odpowiedzi powielających retorykę władz Chin spadł z 22 do 0,9 proc.

Abstract illustration of an AI language model being retrained, with data streams flowing through a neural network.
Zdjęcie: Webrazzi

Firma Nous Research, zajmująca się otwartymi modelami AI, zaprezentowała Arete-27B – ponownie wytrenowaną wersję modelu Qwen3.8-27B, opracowanego przez Alibabę. Według firmy celem było „wzmocnienie zachodnich wartości” w modelu stworzonym w Chinach.

Nie powstał nowy model bazowy. Nous Research przeprowadziło dodatkowy trening na około 52,8 mln tokenów: zbiór danych przeszedł przez model dwa razy, co dało łącznie 1202 kroki treningowe. Nie użyto uczenia przez wzmacnianie ani optymalizacji preferencji, a architektura pozostała bez zmian. Enkoder wizualny zamrożono, ponieważ dane były tekstowe.

Wyniki z własnego zestawu testów

Do pomiaru zmian firma przygotowała 803 pytania w siedmiu kategoriach, m.in. wolność słowa, ideologia państwowa, wolny rynek, demokracja i prywatność. Odpowiedzi oceniano pod kątem podanych informacji oraz tego, czy model przyjmuje oficjalną narrację rządu Chin. W przypadku Qwen3.8-27B taki odsetek wynosił 22 proc., a w Arete-27B spadł do 0,9 proc. Wskaźnik „fact score” (w skali do 5) wzrósł z 2,32 do 2,98.

Największą zmianę odnotowano w kategorii wolności słowa: wynik informacyjny wzrósł z 0,89 do 2,44, a udział odpowiedzi powielających oficjalną narrację spadł z 60 do 1 proc.

Te wyniki pochodzą jednak z systemu oceny stworzonego przez samą firmę. Odpowiedzi punktował Grok 4.7, a ludzie sprawdzili tylko próbkę 25 pytań. Wyniki nie zostały niezależnie zweryfikowane, a spadek odsetka oficjalnej retoryki nie oznacza usunięcia wszystkich uprzedzeń politycznych.

Ogólne możliwości bez dużych strat

W wewnętrznym teście Hermes Bench Qwen3.8-27B uzyskał 65,77 proc., a Arete-27B 65,60 proc. – różnicę firma uznaje za mieszczącą się w błędzie pomiaru. W Terminal-Bench-2.1, mierzącym zdolność agentów do wykonywania zadań, Arete-27B osiągnął 70 proc. wobec 67 proc. bazowego modelu, ale firma nie przypisuje tej poprawy swojej metodzie ze względu na różnice w konfiguracji testów.

Nauczycielem był model Inkling. Z około 20 tys. promptów powstał zbiór 28 886 przykładów. Wagi modelu, dane treningowe i zestaw ewaluacyjny opublikowano na Hugging Face, więc badacze mogą niezależnie sprawdzić wyniki. Zdaniem Nous Research wartości zakodowane w modelach o otwartych wagach można znacząco zmienić stosunkowo niewielkim dotrenowaniem.

Aplikacje warte uwagi

SUMO: łamigłówka liczbowa

Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.

Tagi:nous researcharete-27bqwenalibabaopen-weight modelshugging face

Więcej z tego dnia

Zobacz wszystkie →

Więcej w kategorii: AI

Zobacz wszystkie →