샘 올트먼, 로컬 AI는 희소한 DRAM 낭비라고 지적

OpenAI의 샘 올트먼 CEO가 개인 PC의 메모리가 전체 시간 중 약 5%만 사용되는 것은 "꽤 끔찍한 일"이라고 말했다. DRAM처럼 공급이 부족한 자원은 활용도를 극대화할 수 있는 데이터센터에 투입해야 한다는 취지다.

이 발언은 스트라이프 공동 창업자 존 콜리슨이 진행하는 팟캐스트 "Cheeky Pint"에서 나왔다. 대화는 컴퓨팅 자원 부족을 다뤘고, 오픈 모델을 자신의 하드웨어에서 돌리며 외부 클라우드에 의존하지 않는 사용자가 늘어난 상황도 언급됐다. 올트먼은 이런 로컬 추론을 DRAM 낭비로 봤다.

DRAM 가격 급등과 공급 한계

전 세계 DRAM 생산은 마이크론, 삼성전자, SK하이닉스가 좌우하지만 하이퍼스케일러의 수요를 따라가지 못하고 있다. 트렌드포스에 따르면 2026년 1분기 DRAM 가격은 90~95% 올랐고, 단기간에 내릴 조짐도 없다.

올트먼은 시장이 마땅히 보여야 할 반응을 보이지 않는다고 주장한다. 지난 12개월간 막대한 이익을 냈는데도 주요 메모리 업체의 투자는 상황에 비해 보수적이라는 것이다. 세 회사는 신규 공장을 준비하고 데이터센터용 HBM을 위해 소비자용 칩 생산을 줄이기도 하지만, 고성능 메모리 공장은 단기간에 세우기 어렵다.

해법과 반론

올트먼은 공급망에 새 참여자가 들어와야 한다고 말한다. OpenAI는 브로드컴과 자체 칩 "Jalapeño"를 개발 중이다. 여전히 DRAM은 필요하지만 맞춤 칩이면 최적화가 쉬워진다. SpaceX, 아마존, 메타, 마이크로소프트, 구글도 같은 길을 걷고 있다.

반면 로컬 AI 사용자에게는 오픈 모델로 충분하고, 오프라인 사용이 가능하며, 개인정보를 지킬 수 있다는 이유가 있다. OpenAI도 2025년 8월 GPT-2 이후 처음으로 로컬 실행용 오픈 웨이트 모델 gpt-oss를 공개한 바 있다.