Micron presenta i primi moduli SOCAMM2 da 256GB: fino a 2TB di RAM per CPU nei datacenter AI
I nuovi moduli di memoria SOCAMM2 di Micron offrono un salto del 33% in capacità e maggiore efficienza energetica per i server AI.
Micron ha annunciato la disponibilità dei primi moduli di memoria SOCAMM2 da 256GB, segnando un notevole avanzamento per i datacenter orientati all'intelligenza artificiale. Questo nuovo taglio, superiore rispetto ai precedenti 192GB, consente ora di raggiungere fino a 2TB di RAM per singolo processore, offrendo opportunità di scaling senza precedenti per le piattaforme AI.
Le nuove unità presentano una densità superiore del 33% rispetto alla generazione precedente, oltre a una efficienza energetica migliorata del 66% rispetto ai tradizionali RDIMM. Sono inoltre compatibili con sistemi di liquid cooling, ormai indispensabili nei server AI di fascia alta.
I moduli si basano su die monolitici LPDDR5X da 32Gb, integrando memoria e circuiteria in un singolo componente per migliorare prestazioni e scalabilità. Questa innovazione permette agli AI model di gestire context window molto più ampie e ridurre il Time To First Token (TTFT), ottimizzando la rapidità delle risposte dei sistemi conversazionali.
Il form factor SOCAMM2 nasce da una collaborazione tra Micron, Nvidia, Samsung e SK hynix, con l'obiettivo di superare i limiti in termini di densità e dissipazione termica dei server AI di nuova generazione.
