Osegi
AI·2 분 소요

Mistral Large 4 가중치 공개, 코딩 성능 크게 향상

Mistral AI가 1조 파라미터 모델 Mistral Large 4의 가중치를 Hugging Face에 공개했습니다. 3주간 추가 학습으로 코딩 점수가 올랐습니다.

Illustration of the Mistral Large 4 AI model, a one-trillion-parameter mixture-of-experts system released with open weights.
이미지: Numerama

프랑스 AI 스타트업 Mistral AI는 10월 29일(현지 시간) 1조 파라미터 모델 Mistral Large 4(별칭 «Le Chonk»)의 가중치를 Hugging Face에 공개했습니다. 지난 10월 6일 처음 발표했을 때는 유료 API로만 제공했으며, 월말까지 가중치를 공개하겠다고 약속한 바 있습니다.

가중치는 모델이 학습 과정에서 익힌 수많은 조정값입니다. 이를 내려받으면 데이터를 Mistral에 보내지 않고 자체 서버에서 모델을 실행할 수 있습니다. 이 모델은 전문가 혼합(MoE) 구조를 쓰며, 128개 전문가 중 토큰마다 4개와 공용 전문가 1개만 작동합니다. 토큰당 실제 사용되는 파라미터는 490억 개(입출력 층 포함 520억 개)입니다. 이전 모델 Large 3는 6750억 개 중 410억 개를 사용했습니다.

3주 사이 달라진 점

Mistral은 미리보기 이후에도 강화 학습을 이어가 특히 코드와 사이버 보안 성능을 높였습니다. 회사가 공개한 수치에 따르면 명령줄 프로그래밍 테스트인 Terminal-Bench 4.0 점수는 28%에서 41%로 올라 중국 GLM-5.3(40%)을 근소하게 앞섭니다. Artificial Analysis의 코드 지수에서는 48%로 GLM-5.3과 같고, 작업당 평균 토큰 사용량은 47% 적습니다.

다만 Mistral도 Hugging Face 문서에서 종합 지수에서는 중국의 상위 오픈 모델이 여전히 앞선다고 인정했습니다. Large 4는 26점으로 서구 오픈 모델 중에서는 가장 높습니다. 검색 엔진 Ecosia는 10월 초 Mistral 대신 Qwen, Kimi, GLM 등 중국 모델을 채택했습니다.

가격과 라이선스

API 가격은 절반으로 내려 100만 토큰당 입력 0.70달러, 출력 2.10달러입니다. 미리보기 때 표준 요금은 입력 1.36달러, 출력 4.18달러였습니다. 새 라이선스인 Mistral Ecosystem Open-Weight License는 상업적 사용을 포함해 모든 용도를 허용한 Large 3의 Apache 2.0보다 제한적입니다. MIT 라이선스를 변형한 것으로 상업적 사용은 가능하지만, 모델 접근을 서비스로 재판매하는 기업은 Mistral과 별도 계약을 맺어야 합니다.

일반 PC에서는 구동할 수 없습니다. 압축 버전도 Nvidia 데이터센터용 GPU(B200 또는 B300) 4장이 필요하고, 전체 버전은 8장이 필요합니다.

태그:mistral aimistral large 4open weightshugging facemoellm

같은 날의 다른 뉴스

전체 보기 →

관련 카테고리: AI

전체 보기 →