Kioxia e Nvidia collaborano per SSD rivoluzionario per AI
Kioxia svela un SSD da 10 milioni di IOPS con connessione diretta GPU per server AI.
Kioxia ha annunciato uno storage SSD innovativo che promette di rivoluzionare i server AI, superando i 10 milioni di IOPS in carichi di lavoro a piccoli blocchi. L'azienda collaborerà con Nvidia per sviluppare questo dispositivo, presentato durante il Corporate Strategy Meeting.
Uno dei principali problemi dei server AI odierni è la latenza causata dal trasferimento dati tra storage e GPU. Kioxia mira a risolvere questo problema con un nuovo controller progettato per ottimizzare l'accesso diretto delle GPU ai dati, senza passare per la CPU.
L'SSD proposto utilizzerà la memoria SLC XL-Flash di Kioxia, con latenze di lettura comprese tra 3 e 5 microsecondi, molto più basse rispetto ai tradizionali SSD basati su 3D NAND. Ciò è cruciale per i carichi di lavoro AI, che richiedono accesso rapido e resiliente ai dati.
Il dispositivo sarà ottimizzato per comunicazioni peer-to-peer tra GPU e SSD, e supporterà configurazioni di training AI, particolarmente nei sistemi che utilizzano tecniche di retrieval-augmented generation. L'uscita è prevista per la seconda metà del 2026.
Cosa significa IOPS e perché è importante per i server AI?
IOPS, o operazioni di input/output al secondo, misura la velocità con cui un dispositivo di storage può leggere o scrivere dati. Nei server AI, un alto numero di IOPS è cruciale per gestire rapidamente grandi volumi di dati, migliorando le prestazioni complessive dei modelli di intelligenza artificiale.
Quali sono i vantaggi della memoria SLC XL-Flash rispetto alla tradizionale 3D NAND?
La memoria SLC XL-Flash offre latenze di lettura significativamente inferiori, tra 3 e 5 microsecondi, rispetto alla 3D NAND. Questo si traduce in un accesso più rapido ai dati, essenziale per applicazioni AI che richiedono tempi di risposta immediati.
In che modo la comunicazione peer-to-peer tra GPU e SSD migliora le prestazioni dei server AI?
La comunicazione peer-to-peer consente alle GPU di accedere direttamente ai dati sugli SSD senza passare per la CPU, riducendo la latenza e aumentando l'efficienza del trasferimento dati, elementi fondamentali per le operazioni AI ad alte prestazioni.
Quali sono le caratteristiche principali dell'SSD Kioxia LC9 da 122,88TB?
L'SSD Kioxia LC9 offre una capacità di 122,88TB, utilizza memoria 3D QLC di ottava generazione e dispone di un'interfaccia PCIe 5.0 con capacità dual-port, rendendolo ideale per applicazioni AI che richiedono elevata capacità e velocità di trasferimento dati.
Come influisce l'interfaccia PCIe 5.0 sulle prestazioni degli SSD in applicazioni AI?
L'interfaccia PCIe 5.0 raddoppia la larghezza di banda rispetto alla precedente generazione, permettendo trasferimenti dati più rapidi e migliorando le prestazioni complessive degli SSD in applicazioni AI ad alta intensità di dati.
Qual è il ruolo delle configurazioni di training AI con tecniche di retrieval-augmented generation?
Le tecniche di retrieval-augmented generation combinano modelli generativi con il recupero di informazioni da grandi dataset, migliorando l'accuratezza e la pertinenza delle risposte generate, particolarmente utili in applicazioni AI avanzate.
