AI가 이미 RAM 가격을 올렸다… OpenAI 샘 올트먼 “Windows PC는 사용 시간의 5%만 활용”
OpenAI CEO 샘 올트먼은 전 세계적으로 공급이 제한된 DRAM을 각자의 PC에 넣어 두고 사용 시간은 5%에 불과하게 만드는 것은 AI 데이터 센터에서 더 효율적으로 활용할 수 있다는 점을 고려하면 “상당히 끔찍한 일”이라고 말했습니다. 일론 머스크의 조롱과 새로운 X 이름인 ‘램 올트먼(Ram Altman)’이 등장한 후, 그는 자신의 발언이 맥락에서 벗어나 전달됐다고 주장하고 있습니다.
한편 OpenAI의 오랜 파트너인 MS는 정반대의 접근 방식을 추진해 왔습니다. 사티아 나델라는 AI 모델이 PC에서 실행되고 필요할 때 클라우드에 접근하는 방식으로 모든 책상에 “사용량 제한 없는 지능”을 제공하고자 합니다. 두 CEO 모두 어디서나 AI를 사용할 수 있기를 원하지만, AI가 어디에서 실행돼야 하는지, 그리고 전 세계의 RAM이 어디로 가야 하는지를 두고는 의견이 엇갈립니다.
샘 올트먼이 PC의 RAM을 AI 데이터 센터에서 사용하는 편이 낫다고 생각하는 이유
올트먼은 Stripe 사장 존 콜리슨이 진행하는 Cheeky Pint의 10월 29일 방송에서 이 발언을 했습니다. 두 사람은 메모리 부족 문제가 왜 해소되지 않는지를 논의하고 있었습니다. 콜리슨이 Intel이 “전통대로” 메모리 생산에 복귀할 수도 있다고 농담한 직후, 올트먼은 로컬 AI에 관한 이야기를 꺼냈습니다.
“많은 사람이 로컬 추론을 원합니다. 그리고 어째서인지 이제 문제가 해결됐다고 생각하죠. 오픈 소스 모델이 나올 것이기 때문입니다. 그런 모델을 우리 컴퓨터에서 실행할 수 있게 되니 데이터 센터에 있는 모든 장비가 필요하지 않을 것이라고 생각합니다. 하지만 전 세계적인 자원 배분의 관점에서 보면, 공급이 제한된 전 세계 DRAM을 모두가 자기 컴퓨터에 잔뜩 넣어 두고 사용 시간은 5%에 그치게 하는 것은 사실 상당히 끔찍한 일입니다. 공급이 극도로 제한된 환경에 대응하려면 클라우드에서 활용률을 극대화해야 합니다.”
샘 올트먼의 주장은 출판에 비유할 수 있습니다. 종이에 글을 쓰고 인쇄한 다음 신문처럼 독자의 집으로 직접 보낸다고 상상해 보십시오. 즐거운 경험일 수는 있지만 효율적이지는 않습니다. 우리에게는 이미 웹사이트, 인터넷, 소셜 미디어, WordPress와 매우 효율적인 온라인 출판 생태계가 있기 때문입니다.
하지만 로컬 모델의 성능이 충분하지 않았던 시대는 끝났으며, 이제 강력한 시스템은 이러한 모델을 구동할 수 있습니다.
AGI를 구축하면서 모든 기가바이트를 어디에 배분할지 결정할 수 있다면 올트먼의 주장에도 일리가 있습니다. 그러나 그 결정을 내릴 수 있는 사람은 아무도 없습니다. 결정하는 것은 시장이며, 사람들은 게임이나 영상 편집을 위해 RAM을 구매합니다. 저의 경우에는 조사를 위해 Edge 탭을 거의 100개씩 열어 두는 데 사용합니다. 제 16GB 노트북의 RAM 사용률은 줄곧 90~95%를 유지했으므로, 올트먼이 언급한 5%라는 수치는 제 경험과 거의 정반대입니다.
“램 올트먼”은 한발 물러섰지만 주장은 바뀌지 않았다
이 영상은 이미 메모리 가격 상승을 감당하고 있던 PC 게이머들 사이에서 빠르게 확산됐습니다. 11월 1일, 일론 머스크는 바스터즈: 거친 녀석들의 한스 란다가 “당신이 클라우드에 DRAM을 내놓지 않고 있는 것, 맞죠?”라고 묻는 밈을 게시했습니다. 머스크는 “사람들도 RAM을 누릴 자격이 있다!”라고 덧붙였습니다.
11월 4일, 올트먼은 한 사용자의 요청에 따라 X에서 자신의 이름을 램 올트먼으로 변경하고 이렇게 썼습니다. “사실 나는 전 세계에 엄청난 양의 메모리가 공급되고 사람들이 자기 컴퓨터에 원하는 만큼 넣을 수 있기를 바란다. 이 발언이 맥락에서 벗어나 전달된 것은 정말 빌어먹게 짜증 난다. 나는 오랫동안 전 세계가 메모리 생산량을 늘려야 한다고 주장해 왔다.” 또 다른 답글에서는 “여러분이 아주 많은 RAM을 갖기를 바란다”며 “더 많이 만들자”고 덧붙였습니다.
공정하게 말하면 올트먼은 해당 팟캐스트에서 메모리 제조업체들이 생산 확대에 지나치게 신중하다며 비판하기도 했습니다. 하지만 저는 팟캐스트 전체를 시청했으며, 위 인용문에는 관련 맥락이 충분히 담겨 있습니다. 모두에게 더 많은 메모리가 공급되기를 바란다고 해서 희소한 DRAM은 클라우드에서 더 큰 가치를 제공한다는 그의 견해가 달라지는 것은 아닙니다.
사티아 나델라는 모든 책상과 가정에 사용량 제한 없는 AI를 원한다
MS의 과거 사명은 “모든 책상과 모든 가정에 컴퓨터를”이었으며, 나델라는 이를 AI 중심으로 새롭게 바꿨습니다. 그는 6월에 “우리의 목표는 Windows를 통해 모든 가정과 모든 책상에 사용량 제한 없는 지능을 제공하는 것입니다”라고 말했습니다.
나델라는 2026년 연례 보고서 서한에서 “점점 더 강력한 모델이 로컬에서 실행됨에 따라 얼마나 많은 지능을 사실상 사용량 제한 없이 활용할 수 있게 될지 상상해 보십시오”라고 썼습니다. 워크로드는 “자동 라우팅”을 통해 클라우드와 PC 사이를 오가게 됩니다. 사용량 제한 없는 지능이란 PC가 작업을 직접 수행해 로컬 모델이 생성하는 토큰마다 비용을 지불할 필요가 없다는 뜻입니다. 다만 사용자는 여전히 PC 자체의 비용을 지불해야 하며, PC 가격은 감당하기 힘들 정도로 비싸졌습니다.
MS는 이 접근 방식을 하이브리드 인텔리전스라고 부릅니다. Windows 책임자 파반 다불루리는 10월 7일 블로그 게시물에서 Windows를 “적절할 때 에이전트가 로컬에서 실행되고, 필요할 때 클라우드에 접근할 수 있는 플랫폼”이라고 설명했습니다. 사용자가 권한을 부여하면 Copilot은 PC에서 관련 콘텐츠를 읽고 Windows 전반에서 작업을 수행하며 적절한 작업에 로컬 모델을 사용할 수 있습니다. 나델라는 이를 통해 “토큰을 더 효율적으로 활용할 수 있다”고 말합니다.
MS가 클라우드에 반대하는 것은 분명 아닙니다. Copilot의 Cowork와 Autopilot은 사용량 기반 클라우드 과금 방식으로 작동하며, MS는 2019년에 10억 달러를 투자한 이후 OpenAI를 지원해 왔습니다. MS는 단지 Windows가 다른 회사의 데이터 센터에 접속하는 단순한 더미 터미널이 되는 것을 원하지 않을 뿐입니다.
MS의 128GB Surface Laptop Ultra가 보여 주는 로컬 AI의 RAM 요구량
참고로 로컬 모델은 PC의 CPU, GPU 또는 NPU에서 실행됩니다. MS의 Windows ML 문서에 따르면 이 방식은 “데이터를 비공개로 유지하고 클라우드 비용을 없애며 인터넷 연결 없이도 작동”하지만, PC에는 모델을 저장할 수 있을 만큼 충분한 메모리가 있어야 합니다.
MS의 가장 강력한 사례는 Surface Laptop Ultra입니다. 이 제품의 NVIDIA RTX Spark 칩은 CPU와 GPU가 최대 128GB의 통합 메모리를 공유하며, 최대 1,200억 개의 파라미터를 갖춘 AI 모델을 구동할 수 있습니다. 128GB 모델의 가격은 5,899.99달러입니다.
11월 4일, 올트먼이 X에서 자신의 이름을 바꾸고 있던 사이 MS 엔지니어들은 RTX Spark에서 MAI-Code-1.1-Flash를 실행하는 방법을 설명했습니다. 토큰당 활성 파라미터가 68억 개인 이 1,379억 파라미터 코딩 모델은 16비트 정밀도에서 276GB가 필요합니다. 각 가중치를 더 적은 비트로 저장하는 양자화를 적용하면 53GiB 체크포인트로 줄어듭니다. 그러나 코드의 컨텍스트를 유지하는 KV 캐시를 위해 추가 메모리가 여전히 필요합니다.
MS의 구성에서 이 모델은 12만 토큰 입력을 기준으로 중앙값 초당 51.12토큰을 생성했습니다. 엔지니어들은 “목표는 정확도나 응답성을 희생하면서 비트 수를 줄이는 것이 아니라, 사용 가능한 자원 안에서 더 유용한 지능을 제공하는 것”이라고 밝혔습니다.
다음 PC의 RAM 가격이 더 비싸지는 이유는 AI 데이터 센터다
올트먼의 발언은 PC 구매자들에게 어려운 시기에 나왔습니다. TrendForce는 2026년 4분기 일반 DRAM 계약 가격이 전 분기 대비 10~15% 상승할 것으로 예상합니다. 또한 “더 많은 생산 능력이 서버용 제품으로 전환됨에 따라” 2027년에는 PC용 DRAM 공급이 감소할 수 있다고 전망했습니다. AI 서버에 사용되는 HBM은 노트북에 탑재되는 DDR5와 같지 않지만, 둘 다 소수의 메모리 제조업체가 보유한 생산 설비를 두고 경쟁합니다.
또한 지난 분기 PC 출하량이 약 20% 감소했다는 점도 주목할 필요가 있습니다.
데이터 센터가 제 노트북보다 기가바이트당 더 많은 가치를 끌어낸다는 올트먼의 말은 맞습니다. 하지만 저는 전 세계 DRAM 활용률을 극대화하기 위해 PC를 구매하는 것이 아닙니다. 제 방식대로 일하고 즐기기 위해 구매합니다. 제 생각에는 MS의 하이브리드 접근 방식이 더 나은 아이디어입니다. 단, “모든 책상에서 사용량 제한 없는 지능”이 결국 5,899달러짜리 책상을 의미하지만 않는다면 말입니다.
여러분은 AI가 PC에서 실행되기를 원하십니까, 아니면 클라우드에서 실행되기를 원하십니까?
Windows Latest는 여러분과 같은 독자들의 지원으로 운영됩니다. Google Discover와 Google 검색에서 Windows Latest를 선호 소스로 설정해 독립적인 보도가 더 많은 사람에게 전달될 수 있도록 도와주세요.
