AI 已讓 RAM 變貴；OpenAI 執行長 Sam Altman 稱 Windows PC 只有 5% 的時間會用到它

OpenAI 執行長 Sam Altman 表示，全球有限的 DRAM 都放在每個人的個人電腦裡，而且只有 5% 的時間會被使用，實在是「相當糟糕」，因為 AI 資料中心能更有效地利用這些記憶體。在 Elon Musk 嘲諷他，並讓他在 X 上換了新名稱——自然是 Ram Altman——之後，他如今聲稱自己的發言遭到斷章取義。

與此同時，OpenAI 的長期合作夥伴 MS 一直在推廣截然相反的做法。Satya Nadella 希望每張辦公桌都能擁有「不計量的智慧」，讓 AI 模型在 PC 上執行，並於需要時存取雲端。兩位執行長都希望 AI 無所不在，但他們對於 AI 應在何處執行，以及全球 RAM 應流向何處，抱持不同看法。

為何 Sam Altman 認為 PC 的 RAM 用於 AI 資料中心更有價值

Altman 是在 10 月 29 日播出的 Cheeky Pint 節目中發表這番言論，該節目由 Stripe 總裁 John Collison 主持。兩人當時正在討論記憶體短缺問題為何遲遲無法緩解。Collison 開玩笑說 Intel 可以「依照傳統」重返記憶體生產市場後不久，Altman 便提起了本機 AI 的話題。

「許多人想要本機推論。不知為何，他們認為這個問題現在已經解決了。因為我們將會有開源模型，也將能在自己的電腦上執行它們，所以我們不再需要資料中心裡的所有設備。但從全球資源分配的角度來看，讓每個人都把全球供應有限的大量 DRAM 放在自己的電腦裡，卻只有 5% 的時間會用到，其實相當糟糕。如果你試圖應對這種供應極度受限的環境，就會希望雲端資源的利用率達到最高。」

Sam Altman 的觀點可用出版業來類比。想像一下，把文章寫在紙上、印刷出來，再像報紙一樣直接寄到讀者家中。這或許很有趣，但並沒有效率，因為我們早已有網站、網際網路、社群媒體、WordPress，以及高度高效的線上出版生態系統。

然而，本機模型能力不足的時代已經結束，如今強大的系統已能處理這類模型。

如果你正在打造 AGI，而且可以決定每一 GB 記憶體的去向，那麼 Altman 的確有其道理。但沒有人能夠做出這項決定。真正做決定的是市場，而人們購買 RAM 是為了玩遊戲、剪輯影片，或像我一樣，為了研究而同時開啟將近 100 個 Edge 分頁。我的 16GB 筆記型電腦過去 RAM 使用率總是維持在 90% 至 95% 之間，這讓 Altman 所說的 5% 幾乎與我的使用經驗完全相反。

「Ram Altman」改口，但他的論點並未改變

這段影片很快便在已經為記憶體支付更高價格的 PC 玩家之間流傳開來。11 月 1 日，Elon Musk 發布了一張迷因，圖中的 Inglourious Basterds 角色 Hans Landa 問道：「你把 DRAM 扣著不給雲端，對吧？」Musk 還補充：「人民也應該擁有自己的 RAM！」

11 月 4 日，Altman 應一名使用者要求，將自己在 X 上的名稱改成 Ram Altman，並寫道：「其實我確實希望全世界都能擁有大量記憶體，也希望人們想在自己的電腦裡裝多少就裝多少，而這番話被斷章取義真的他媽很煩。我長期以來一直主張全球應該擴大記憶體產量。」他在另一則回覆中補充：「我希望你擁有超多 RAM」，以及「讓我們生產更多吧。」

平心而論，Altman 在 Podcast 中也批評記憶體製造商對擴大產能過於謹慎。然而，我看完了整集節目，而上方引文已提供相關脈絡。希望每個人都能獲得更多記憶體，並不會改變他的觀點，也就是稀缺的 DRAM 在雲端能創造更高價值。

Satya Nadella 希望每張辦公桌與每個家庭都擁有不計量的 AI

MS 過去的使命是「讓每張辦公桌與每個家庭都有一台電腦」，而 Nadella 已將其更新為以 AI 為核心的版本。他在 6 月表示：「我們的目標，是透過 Windows 為每個家庭與每張辦公桌提供不計量的智慧。」

Nadella 在 2026 年年度報告信函中寫道：「試想一下，隨著能力愈來愈強大的模型在本機執行，有多少智慧實際上能變得不受用量限制。」工作負載則能透過「自動路由」在雲端與 PC 之間移動。不計量的智慧意味著由 PC 執行工作，因此無須為本機模型產生的每個 Token 付費。不過，使用者仍須支付 PC 本身的費用，而 PC 已經變得貴得令人難以承受。

MS 將這種做法稱為混合智慧。Windows 主管 Pavan Davuluri 在 10 月 7 日的部落格文章中，將 Windows 描述為「一個讓代理程式能在適合時於本機執行，並於需要時連上雲端的平台」。經使用者授權後，Copilot 可以讀取 PC 上的相關內容、在 Windows 中執行操作，並針對適合的工作使用本機模型。Nadella 表示，這有助於「讓你的 Token 發揮更大效益」。

MS 顯然並不反對雲端。Copilot 的 Cowork 與 Autopilot 採用按使用量計費的雲端模式，而 MS 自 2019 年投資 10 億美元以來，也一直支持 OpenAI。這家位於雷德蒙的公司只是不希望 Windows 淪為其他人資料中心的無腦終端機。

MS 的 128GB Surface Laptop Ultra 顯示本機 AI 需要多少 RAM

補充說明，本機模型會在 PC 的 CPU、GPU 或 NPU 上執行。MS 的 Windows ML 文件指出，這種做法能夠「確保資料隱私、消除雲端成本，並在沒有網際網路連線的情況下運作」，但 PC 必須有足夠的記憶體來容納模型。

MS 最強大的範例是 Surface Laptop Ultra，其 NVIDIA RTX Spark 晶片可讓 CPU 與 GPU 共用最高 128GB 的統一記憶體，足以執行參數量最高達 1,200 億的 AI 模型。128GB 型號售價為 5,899.99 美元。

11 月 4 日，就在 Altman 於 X 上替自己改名的同時，MS 工程師說明了他們如何在 RTX Spark 上執行 MAI-Code-1.1-Flash。這款程式編寫模型共有 1,379 億個參數，每個 Token 會啟用 68 億個參數，在 16 位元精度下需要 276GB 記憶體。量化技術會使用較少的位元儲存每個權重，可將其縮減為 53GiB 的檢查點。即使如此，模型仍需要額外記憶體來存放 KV 快取，以保留程式碼的上下文。

在 MS 的配置中，使用 12 萬 Token 的輸入時，該模型的生成速度中位數為每秒 51.12 個 Token。工程師寫道：「目標是在現有資源範圍內提供更實用的智慧，而不是以犧牲準確度或回應速度為代價來減少位元數。」

AI 資料中心正是下一台 PC 的 RAM 將變得更貴的原因

Altman 發表這番言論的時機，對 PC 買家而言相當不利。TrendForce 預期，2026 年第四季傳統 DRAM 合約價格將季增 10% 至 15%。該機構也表示，隨著更多產能轉向伺服器應用，PC DRAM 的供應量可能在 2027 年下降。AI 伺服器使用的 HBM 與筆記型電腦中的 DDR5 並不相同，但兩者都在爭奪少數幾家記憶體製造商的工廠產能。

另外值得注意的是，上一季 PC 出貨量下降了約 20%。

Altman 說得沒錯，資料中心從每一 GB 記憶體中創造的價值確實高於我的筆記型電腦，但我購買 PC 並不是為了最大化全球 DRAM 的利用率。我買電腦，是為了按照自己的方式工作與娛樂。在我看來，MS 的混合式做法是更好的選擇，前提是「每張辦公桌都擁有不計量的智慧」，最終不會變成一張價值 5,899 美元的辦公桌。

你希望 AI 在自己的 PC 上執行，還是在雲端執行？

Windows Latest 仰賴像你一樣的讀者支持。請在 Google Discover 與 Google 搜尋中將我們設為偏好的資訊來源，協助我們的獨立報導觸及更多人。