D-Matrix presenta Raptor: AI accelerator 3D con DRAM custom e 100 TB/s di banda
Al Hot Chips 2026, d-Matrix svela Raptor, primo AI accelerator con DRAM sovrapposta, promettendo performance e innovazione strutturale.
d-Matrix ha presentato Raptor durante Hot Chips 2026, definendolo il primo acceleratore AI per inferenza generativa con una struttura 3D DRAM inedita: un compute die TSMC a 4nm è impilato direttamente sopra un die DRAM custom, collegati tramite una fitta interfaccia verticale da 36 micron. Questa soluzione raggiunge una larghezza di banda di 100 TB/s per scheda con 32GB di memoria, superando di quasi 5 volte i throughput per card rispetto ai design HBM4 tradizionali secondo simulazioni d-Matrix.
Il design inverte la consueta disposizione 3D: la logica si trova sopra e la DRAM funge anche da interposer, facilitando il raffreddamento tramite cold plate. L'interfaccia verticale consuma solo 0,37 pJ/bit, molto meno dei 2,4 pJ/bit richiesti dalla trasmissione verso un base die HBM4. La DRAM custom integra 840 banchi per chiplet, con spare bank e meccanismi di correzione errori avanzati (Reed-Solomon + CRC). L'architettura richiede frequenti refresh per gestire le alte temperature operative, ma il design riduce l'impatto sulla banda effettiva.
Nonostante le innovazioni, restano incognite sulla produzione: nessun fornitore di DRAM è stato dichiarato, e la capacità produttiva è un punto critico, dato il mercato HBM4 saturo. La densità della DRAM di Raptor è inferiore a quella HBM4, ma la soluzione punta sullo scale-up a livello rack. "Anche con 32GB riusciamo ad affrontare modelli SOTA in scala rack", ha dichiarato d-Matrix. Tuttavia, l'effettiva disponibilità e le performance restano da dimostrare su hardware di produzione.
