Il costo della memoria spinge a 7,8 milioni di dollari i nuovi sistemi AI di Nvidia
Nei rack VR200 NVL72 la memoria arriva a rappresentare il 25% del costo totale, superando i 2 milioni di dollari per unità.
I costi dei componenti per i sistemi AI di nuova generazione sono in crescita rapida, e la memoria rappresenta ora una fetta significativa dell'investimento necessario. Secondo una recente ricerca di Morgan Stanley, la costruzione di un rack Nvidia VR200 NVL72 – basato su GPU Rubin – richiederà circa 7,8 milioni di dollari ai principali hyperscaler cloud.
La memoria occupa una quota senza precedenti del 25% del costo totale: circa 2 milioni di dollari per ogni sistema. L'incremento è legato sia all'aumento delle quantità – ogni rack integra oggi 54 TB di LPDDR5X, contro i 17 TB della versione precedente – sia al prezzo unitario della memoria, che può toccare 10 dollari per GB, senza considerare ulteriori rincari dovuti ai moduli SOCAMM2 e ai margini Nvidia.
Inoltre, ogni rack incorpora fino a 1 milione di dollari in 3D NAND, una voce prima quasi assente. Al costo della memoria si aggiungono componenti come switching, networking, PCB avanzati e sistemi di raffreddamento evoluti, che fanno lievitare il prezzo complessivo.
Questo scenario evidenzia come la domanda AI stia alterando profondamente l'economia delle infrastrutture hardware, con la memoria che assume un ruolo sempre più centrale nei costi dei nuovi sistemi.
