Inkling 2 Mini, 노트북에서 돌아가는 26B 오픈 AI
Thinking Machines Lab은 와이파이를 끈 MacBook Pro에서 Inkling 2 Mini로 플레이 가능한 비행 시뮬레이터를 코딩했다. 20GB 미만으로 돌아가는 오픈 모델이다.

비행기 안에서 와이파이를 끈 MacBook Pro로 몇 분 만에 플레이 가능한 비행 시뮬레이터를 코딩한다. Thinking Machines Lab은 새 모델 Inkling 2 Mini가 인터넷 없이 돌아간다는 점을 이렇게 시연했다고 밝혔습니다.
이 스타트업은 OpenAI 전 CTO인 미라 무라티가 2025년에 세웠습니다. Inkling 2 Mini는 11월 20일 공개됐습니다. 2주 전 나온 5940억 파라미터 모델 Inkling 2 Small이 너무 크다는 반응에 내놓은 소형판으로, 소프트웨어 개발과 스스로 작업을 이어가는 에이전트용입니다. 가중치는 상업적 이용이 가능한 Apache 2.0 라이선스로 배포됩니다.
26B 모델이 20GB 미만에 들어가는 방법
보통 파라미터 하나는 16비트로 저장돼 50GB를 넘습니다. 회사는 Nvidia의 4비트 형식 NVFP4로 처음부터 학습했고, 마지막 4개 층만 8비트로 유지했습니다. 나중에 압축할 때 생기는 품질 저하를 피했다는 설명입니다.
전문가 혼합(MoE) 구조도 쓰입니다. 층마다 전문 서브네트워크가 128개 있고 토큰당 8개만 작동하므로, 한 번에 활성화되는 파라미터는 34억 개입니다. 24개 층 가운데 가운데 12개 층을 토큰마다 세 번 반복하는 루프 구조도 특징입니다. 메모리를 더 쓰지 않고 48층 모델 수준의 깊이를 얻습니다.
코딩은 Qwen3.8보다 앞서고 지식은 뒤진다
실제 소프트웨어 버그 수정 능력을 재는 DeepSWE v1.1에서 Inkling 2 Mini는 48.2%로, 중국 Qwen3.8-27B의 42.2%를 앞섰습니다. 다만 회사가 발표한 수치이며 독립 검증은 아직 없습니다. 일상 대화와 사실 정확도는 Qwen3.8이 우세해 AA-Omniscience 신뢰 응답률이 71.4% 대 63.4%였습니다.
내 컴퓨터에서 돌리려면
Unsloth의 4비트 버전은 디스크 17.6GB이며 컨텍스트용 메모리가 따로 필요합니다. 통합 메모리 32GB Mac, AMD Ryzen AI Max+ 395나 Nvidia DGX Spark 같은 PC, 32GB Intel Panther Lake 노트북, VRAM 24GB 그래픽카드가 기준입니다. RAM 16GB는 3비트 버전으로 가능하지만 정확도가 조금 떨어집니다. Ollama, LM Studio, Unsloth Desktop, llama.cpp(지원은 실험적)를 쓸 수 있습니다.
주목할 만한 앱
올바른 칸을 고르고 더해 목표 숫자를 맞추세요. 배우긴 쉽고 마스터하긴 어렵습니다. 무료, 전 연령.
AI 대화 파트너와 대화하세요. 모든 문장이 교정되어 내 언어로 설명과 함께 돌아옵니다. 9개 언어, A1부터 C2까지.
EDIFACT와 X12 메시지를 열어 각 세그먼트 설명을 보고, JSON/XML로 변환하고, PDF와 Excel로 내보내세요. 로컬에서 실행, 업로드 없음.
받는 사람, 기념일, 성격을 고르세요. 검색 엔진이 현지 상점의 상품 설명을 읽고 어울리는 것을 추려 줍니다. 무료, 가입 없음.
같은 날의 다른 뉴스
전체 보기 →관련 카테고리: AI
전체 보기 →
로봇 개 Spot, AI 데이터센터 경비 투입 2년이면 본전 뽑는다는데

SurfSense, NotebookLM 대안 무료 앱 PC에서 오프라인 실행

Tau Robotics 청소 로봇, 30달러에 오지만 조종은 사람




