Nuove architetture HBM rivoluzionano raffreddamento e capacità per l’AI
V-Die e MOSAIC propongono stack DRAM verticali per aumentare banda e capacità, riducendo il calore nei futuri acceleratori AI.
La crescente domanda di High-Bandwidth Memory (HBM) per acceleratori AI pone sfide cruciali in termini di capacità, banda e soprattutto dissipazione termica. Due innovativi progetti di ricerca — V-Die sviluppato in Corea e MOSAIC dall’Università di Tokyo — introducono nuovi paradigmi nell’integrazione della memoria DRAM.
Entrambe le soluzioni propongono di orientare i DRAM dies verticalmente anziché impilarli solo verso l’alto, aumentando la superficie esposta al raffreddamento e offrendo nuovi schemi di connessione. “Questo approccio trasforma lo stack di memoria in una sorta di struttura simile a un dissipatore di calore, migliorando la gestione termica e liberando spazio per più celle di memoria”, spiegano i ricercatori.
V-Die elimina i tradizionali TSV (Through-Silicon Vias), adottando connessioni sul bordo inferiore di ciascun die e integrando canali di raffreddamento microfluidici tra le memorie. Nei test simulati, V-Die ha ottenuto prestazioni quasi doppie rispetto a HBM4 su carichi GPT-3, contenendo la temperatura intorno ai 45°C.
MOSAIC affronta le difficoltà di allineamento dei dies verticali grazie a un’interfaccia contactless basata su accoppiamento induttivo, eliminando la necessità di connessioni metalliche dirette e raddoppiando la capacità senza penalizzare il raffreddamento.
Sebbene nessuna delle due tecnologie sia vicina alla commercializzazione, i risultati offrono prospettive promettenti per superare il “muro termico” della memoria nei futuri acceleratori IA.
