L'IA ha già reso la RAM più costosa; Sam Altman di OpenAI afferma che i PC Windows la usano solo il 5% del tempo

Il CEO di OpenAI Sam Altman afferma che sia “piuttosto terribile” che tutti tengano nei propri PC una parte della limitata quantità mondiale di DRAM, utilizzandola solo per il 5% del tempo, quando i data center dedicati all'IA potrebbero sfruttarla meglio. Dopo una frecciata di Elon Musk e un nuovo nome su X, naturalmente Ram Altman, ora sostiene che le sue dichiarazioni siano state estrapolate dal contesto.

Nel frattempo, MS, partner di lunga data di OpenAI, promuove l'approccio opposto. Satya Nadella vuole un'“intelligenza senza limiti” su ogni scrivania, con modelli di IA eseguiti sui PC e in grado di accedere al cloud quando necessario. Entrambi i CEO vogliono portare l'IA ovunque, ma non concordano su dove debba essere eseguita e su dove debba finire la RAM disponibile nel mondo.

Perché Sam Altman pensa che la RAM del tuo PC sarebbe impiegata meglio nei data center per l'IA

Altman ha fatto questa dichiarazione durante la puntata del 29 ottobre di Cheeky Pint, condotta dal presidente di Stripe John Collison. I due stavano discutendo del motivo per cui la carenza di memoria non si stesse risolvendo da sola. Poco dopo che Collison aveva scherzato sul fatto che Intel potesse tornare a produrre memoria “come da tradizione”, Altman ha sollevato il tema dell'IA locale.

“Molte persone vogliono l'inferenza locale. E, in qualche modo, danno per scontato che il problema sia ormai risolto. Perché avremo modelli open source. Potremo eseguirli sui nostri computer. E quindi non avremo bisogno di tutta l'infrastruttura presente nei data center. Ma dal punto di vista dell'allocazione globale, in realtà, è piuttosto terribile che tutti tengano nei propri computer una parte della limitata disponibilità mondiale di DRAM, utilizzandola soltanto per il 5% del tempo. Se si cerca di affrontare un contesto caratterizzato da un'offerta estremamente limitata, bisogna puntare al massimo utilizzo nel cloud.”

Il ragionamento di Sam Altman può essere paragonato all'editoria. Immaginate di scrivere articoli su carta, stamparli e inviarli direttamente a casa dei lettori come fossero giornali. Sarebbe piacevole, ma non efficiente, perché disponiamo già di siti web, Internet, social media, WordPress e di un ecosistema editoriale online altamente efficiente.

Tuttavia, i tempi in cui i modelli locali non erano abbastanza validi sono finiti e oggi i sistemi più potenti sono in grado di gestirli.

Altman non ha tutti i torti se si sta sviluppando un'AGI e si può decidere dove destinare ogni gigabyte. Ma nessuno può prendere questa decisione. È il mercato a farlo, e le persone acquistano RAM per giocare, montare video o, nel mio caso, tenere aperte quasi 100 schede di Edge per le ricerche. Il mio portatile da 16 GB rimaneva solitamente tra il 90% e il 95% di utilizzo della RAM, rendendo il dato del 5% citato da Altman quasi l'esatto opposto della mia esperienza.

“Ram Altman” fa marcia indietro, ma la sua tesi non è cambiata

La clip si è diffusa rapidamente tra i giocatori PC che stanno già pagando di più per la memoria. Il 1° novembre, Elon Musk ha pubblicato un meme con Hans Landa di Bastardi senza gloria che chiedeva: “State sottraendo DRAM al cloud, vero?” Musk ha aggiunto: “Anche le persone meritano di avere la loro RAM!”

Il 4 novembre, su richiesta di un utente, Altman ha cambiato il proprio nome su X in Ram Altman e ha scritto: “in realtà voglio che nel mondo ci sia un'enorme quantità di memoria e che le persone ne mettano quanta ne vogliono nei propri computer, ed è fottutamente irritante che queste parole siano state estrapolate dal contesto. sostengo da molto tempo che il mondo debba aumentare la produzione di memoria.” In un'altra risposta ha aggiunto: “voglio che tu abbia tantissima ram” e “costruiamone di più.”

A onor del vero, durante il podcast Altman ha anche criticato i produttori di memoria perché troppo prudenti nell'espandere la produzione. Tuttavia, ho guardato l'intero podcast e la citazione riportata sopra fornisce il contesto pertinente. Volere più memoria per tutti non cambia la sua opinione secondo cui la DRAM disponibile in quantità limitata offre un valore maggiore nel cloud.

Satya Nadella vuole un'IA senza limiti su ogni scrivania e in ogni casa

La precedente missione di MS era “un computer su ogni scrivania e in ogni casa”, e Nadella l'ha aggiornata concentrandola sull'IA. “Il nostro obiettivo è offrire, tramite Windows, un'intelligenza senza limiti a ogni casa e su ogni scrivania”, ha dichiarato a giugno.

Nella lettera della relazione annuale 2026, Nadella scrive: “Immaginate quanta intelligenza possa effettivamente diventare senza limiti man mano che modelli sempre più avanzati vengono eseguiti in locale”, con i carichi di lavoro che si spostano tra cloud e PC tramite l'“instradamento automatico”. Per intelligenza senza limiti si intende che è il PC a svolgere il lavoro, eliminando la necessità di pagare per ogni token generato da un modello locale. Gli utenti devono comunque pagare il PC stesso, e i PC sono diventati estremamente costosi.

MS definisce questo approccio Intelligenza ibrida. In un post del blog del 7 ottobre, Pavan Davuluri, responsabile di Windows, descrive Windows come “una piattaforma in cui gli agenti possono essere eseguiti localmente quando ha senso e accedere al cloud quando ne hanno bisogno”. Con l'autorizzazione dell'utente, Copilot può leggere i contenuti pertinenti presenti su un PC, eseguire azioni in Windows e utilizzare modelli locali per le attività appropriate, cosa che, secondo Nadella, aiuta a “far rendere di più i propri token”.

MS non è chiaramente contraria al cloud. Cowork e Autopilot di Copilot funzionano tramite una fatturazione cloud basata sull'utilizzo e MS sostiene OpenAI da quando, nel 2019, ha effettuato un investimento da 1 miliardo di dollari. Redmond semplicemente non vuole che Windows diventi un terminale passivo collegato al data center di qualcun altro.

Il Surface Laptop Ultra da 128 GB di MS mostra quanta RAM richiede l'IA locale

Per contestualizzare, un modello locale viene eseguito sulla CPU, GPU o NPU di un PC. La documentazione di Windows ML di MS afferma che questo approccio mantiene “i dati privati, elimina i costi del cloud e funziona senza una connessione Internet”, ma il PC deve avere memoria sufficiente per contenere il modello.

L'esempio più potente di MS è il Surface Laptop Ultra, il cui chip NVIDIA RTX Spark condivide fino a 128 GB di memoria unificata tra CPU e GPU, sufficienti per modelli di IA con un massimo di 120 miliardi di parametri. Il modello da 128 GB costa 5.899,99 dollari.

Il 4 novembre, mentre Altman cambiava il proprio nome su X, gli ingegneri di MS hanno spiegato come eseguono MAI-Code-1.1-Flash su RTX Spark. Il modello di programmazione da 137,9 miliardi di parametri, con 6,8 miliardi di parametri attivi per token, richiede 276 GB con una precisione a 16 bit. La quantizzazione, che memorizza ciascun peso utilizzando meno bit, riduce le dimensioni a un checkpoint da 53 GiB. Il modello richiede comunque memoria aggiuntiva per la cache KV, che conserva il contesto del codice.

Nella configurazione di MS, il modello ha generato una mediana di 51,12 token al secondo con un input da 120.000 token. “L'obiettivo è ottenere un'intelligenza più utile con le risorse disponibili, non meno bit a scapito della precisione o della reattività”, hanno scritto gli ingegneri.

I data center per l'IA faranno costare di più la RAM del tuo prossimo PC

Le dichiarazioni di Altman sono arrivate in un momento difficile per chi acquista un PC. TrendForce prevede che i prezzi contrattuali della DRAM convenzionale aumenteranno del 10-15% su base trimestrale nel quarto trimestre del 2026. Afferma inoltre che la disponibilità di DRAM per PC potrebbe diminuire nel 2027, “poiché una quota maggiore della capacità produttiva verrà destinata alle applicazioni server”. La memoria HBM utilizzata nei server per l'IA non è uguale alla DDR5 presente nei portatili, ma entrambe competono per la capacità produttiva delle fabbriche di un numero limitato di produttori di memorie.

Vale inoltre la pena notare che le consegne di PC sono diminuite di circa il 20% nell'ultimo trimestre.

Altman ha ragione nell'affermare che un data center ricava più valore da ogni gigabyte rispetto al mio portatile, ma non compro un PC per massimizzare l'utilizzo globale della DRAM. Lo compro per lavorare e giocare alle mie condizioni. A mio parere, l'approccio ibrido di MS è l'idea migliore, purché “un'intelligenza senza limiti su ogni scrivania” non finisca per significare una scrivania da 5.899 dollari.

Preferisci che l'IA venga eseguita sul tuo PC o nel cloud?

Windows Latest dipende da lettori come te. Rendici la tua fonte preferita su Google Discover e Ricerca Google e aiuta il nostro giornalismo indipendente a raggiungere più persone.