Nvidia svela NVHBM: memoria HBM personalizzata per acceleratori AI più veloci ed efficienti
NVHBM promette il 30% di banda in più e il 15% di consumi in meno rispetto alla memoria HBM4e standard, rivoluzionando i design AI custom.
Nvidia ha presentato NVHBM, una versione custom della memoria HBM destinata ai partner del programma NVLink Fusion, pensata per alimentare i prossimi acceleratori AI con prestazioni e efficienza superiori.
Secondo l’azienda, NVHBM garantisce un 30% di banda superiore per ogni stack rispetto alla tradizionale HBM4e, elemento chiave per i workload AI che dipendono fortemente dalla velocità della memoria. Contestualmente, il consumo energetico si riduce del 15%, consentendo di migliorare il rapporto performance-per-watt o integrare più unità computazionali nello stesso budget energetico.
La novità principale è il controller di memoria, ora spostato nel base die dell’HBM anziché sul die principale dell’acceleratore. Questo libera spazio prezioso, permettendo fino al 30% di area in più per la logica computazionale e semplifica l’interconnessione tra chip in configurazioni avanzate.
NVHBM è destinato esclusivamente ai partner che sviluppano soluzioni custom, come Amazon Annapurna Labs, prima azienda annunciata che integrerà questa tecnologia nei futuri chip Trainium. “Collaboriamo per migliorare le infrastrutture AWS di prossima generazione,” ha dichiarato Nafea Bshara di Annapurna.
