AI2026. 11. 9. 오후 7:05 UTC·2 분 소요

Nous Research, Qwen 재학습한 Arete-27B 공개

Nous Research가 Qwen3.8-27B를 재학습한 Arete-27B를 공개했습니다. 자체 테스트에서 중국 정부 공식 입장을 따르는 답변은 22%에서 0.9%로 줄었습니다.

Abstract illustration of an AI language model being retrained, with data streams flowing through a neural network. — 이미지: Webrazzi

오픈소스 AI 모델을 연구하는 Nous Research가 Alibaba의 Qwen3.8-27B를 재학습한 모델 Arete-27B를 공개했습니다. 회사는 중국에서 개발된 AI 모델에 '서구적 가치를 강화'하려는 목적으로 만들었다고 설명합니다.

새 기반 모델을 처음부터 개발한 것은 아닙니다. 270억 개 파라미터의 기존 모델에 약 5,280만 토큰의 추가 학습을 진행했습니다. 데이터셋을 두 번 처리해 총 1,202단계로 마쳤으며, 강화학습이나 선호도 최적화는 쓰지 않았고 아키텍처도 바꾸지 않았습니다. 텍스트 데이터만 사용했기 때문에 비전 인코더는 고정했습니다.

자체 평가에서 공식 입장 답변 급감

회사는 표현의 자유, 국가 이념, 자유시장, 교육, 데이터 프라이버시와 감시, 민주주의, 환경 등 7개 범주의 803개 질문으로 평가 세트를 만들었습니다. Qwen3.8-27B에서 중국 정부의 공식 입장을 자기 견해처럼 따르는 답변 비율은 22%였지만 Arete-27B에서는 0.9%로 떨어졌습니다. 5점 만점 'fact score'는 2.32에서 2.98로 올랐습니다. 표현의 자유 범주에서는 비율이 60%에서 1%로, fact score는 0.89에서 2.44로 개선됐습니다.

다만 이 결과는 Nous Research가 만든 평가 체계에 따른 것입니다. 채점에는 Grok 4.7을 사용했고 사람의 검증은 처음 25개 질문 표본에 그쳤습니다. 독립적인 제3자의 재검증은 아직 없으며, 공식 입장 비율 감소가 모든 정치적 편향이 사라졌다는 뜻은 아닙니다.

일반 성능 유지, 데이터 공개

자체 Hermes Bench에서 Qwen3.8-27B는 65.77%, Arete-27B는 65.60%를 기록했습니다. 회사는 0.17포인트 차이를 측정 오차 범위로 봅니다. Terminal-Bench-2.1에서는 Arete-27B가 70%, 기존 모델이 67%였지만, 회사는 테스트 설정 차이 때문이라며 자사 학습 방식의 성과로 돌리지 않습니다.

교사 모델로는 Inkling을 썼고, 약 2만 개 프롬프트로 28,886개 학습 예시를 만들었습니다. 모델 가중치와 학습 데이터, 평가 세트는 Hugging Face에 공개돼 연구자가 직접 검증할 수 있습니다. 회사는 오픈 웨이트 모델의 가치 판단이 비교적 적은 추가 학습으로 크게 바뀔 수 있다고 주장합니다.