Osegi
AI·1 분 소요

Arete: 알리바바 Qwen3.8 재훈련 모델, 선전성 답변 22%에서 1%로

미국 Nous Research가 알리바바 Qwen3.8-27B를 다시 훈련해 Arete를 만들었다. 선전성 답변은 22%에서 1%로 줄었고, 쓴 데이터는 5천만 토큰뿐이다.

Illustration of an AI model's neural network being retrained, with Chinese and American flags in the background.
이미지: 3DNews - Daily Digital Digest

알리바바의 오픈 웨이트 모델 Qwen3.8-27B가 Arete라는 새 이름으로 나왔습니다. 미국 AI 연구소 Nous Research가 추가 훈련으로 모델에서 '중국적 뿌리'를 떼어내려 한 결과물입니다. 원 개발사가 달가워하지 않을 답변도 내놓는다고 합니다.

Arete는 무엇인가

Arete는 Qwen3.8-27B를 추가 훈련한 모델입니다. 프로젝트의 목표는 중국에서 처음 훈련된 모델에 서방의 가치를 심는 것이라고 밝혔습니다. Nous Research는 중국의 오픈 웨이트 모델이 현재 가장 강력한 축에 속하지만, 가중치 자체에 중국 정부 이념에 맞는 행동이 처음부터 들어 있다고 봤습니다.

연구소 테스트에서 Arete-27B의 답변 중 선전을 담은 비율은 22%에서 1%로 떨어졌습니다. 사실 정확도는 5점 만점에서 2.32점에서 2.98점으로 올랐습니다. 연구소가 시험한 서방 모델들도 이 정도 수준이라고 합니다.

왜 Inkling을 골랐나

재훈련 도구를 고르면서 연구팀은 Nvidia의 Nemotron 3 Ultra도 검토했습니다. 하지만 이 모델도 중국 관련 주제에서 애매한 태도를 보였습니다. Nemotron 훈련 과정에서 중국 모델이 쓰였을 수 있다는 것이 연구진의 추정입니다. 결국 Thinking Machines Lab이 내놓은 오픈 모델 Inkling이 선택됐습니다.

Qwen3.8-27B의 선전성 층은 얕은 편이어서, 5천만 토큰 분량의 훈련 데이터만으로 비교적 쉽게 지워졌다고 합니다.

앞선 사례도 있다

중국 AI 모델의 위험은 이념 전파에 그치지 않습니다. 특정 조건에서는 취약한 코드를 만들어내기도 합니다. Hirundo는 알리바바 Qwen3.6-35B-A3B에 비슷한 재훈련을 적용해, 베이징의 선호에 맞는 답변을 89.8%에서 2.8%로 줄였습니다. Nous Research의 성과는 그보다 덜 극적이지만 변화는 분명합니다.

주목할 만한 앱

SUMO: 숫자 퍼즐

올바른 칸을 고르고 더해 목표 숫자를 맞추세요. 배우긴 쉽고 마스터하긴 어렵습니다. 무료, 전 연령.

태그:nous researchareteqwen3.8alibabaopen weightsai bias

같은 날의 다른 뉴스

전체 보기 →

관련 카테고리: AI

전체 보기 →