Nvidia presenta BlueField-4 STX: rivoluzione per lo storage dell'agentic AI
Nuova architettura progettata per accelerare l’accesso ai dati e superare i limiti delle soluzioni storage tradizionali nell’AI avanzata.
Nvidia ha annunciato BlueField-4 STX, un’architettura modulare di riferimento per lo storage accelerato pensata per rimuovere i colli di bottiglia nell’accesso ai dati che ostacolano l’inferenza dell’agentic AI. Basata sul nuovo BlueField-4 DPU ottimizzato per lo storage e sulla ConnectX-9 SuperNIC, la piattaforma mira a risolvere la sotto-utilizzazione delle GPU causata da limiti nei percorsi di archiviazione convenzionali.
STX offre fino a cinque volte il throughput sui token, il doppio della velocità di ingestione delle pagine e quattro volte l’efficienza energetica rispetto alle architetture basate su CPU. L’architettura affronta in particolare la gestione della KV cache, fondamentale durante l’inferenza dei transformer: con finestre di contesto sempre più ampie, la cache supera la capacità HBM delle GPU, costringendo il sistema a utilizzare DRAM o NVMe tramite CPU, con conseguente aumento della latenza.
BlueField-4 STX elimina il passaggio dalla CPU, gestendo direttamente gli NVMe SSD attraverso RDMA su Spectrum-X Ethernet e mantenendo i dati del contesto vicino all’elaborazione. L’intero stack si integra sulla piattaforma Vera Rubin con Vera CPU, ConnectX-9, Spectrum-X e il software DOCA. Numerosi vendor e provider cloud, tra cui DDN, Dell, IBM, NetApp, CoreWeave, Lambda, Mistral AI e Oracle Cloud, hanno già aderito come early adopter. Le prime soluzioni commerciali sono attese nella seconda metà del 2026.
