Intel presenta Crescent Island: nuovo acceleratore AI ottimizzato per efficienza e inferenza
Crescent Island punta su architettura Xe3P, maggiori cache e XMX avanzati per massimizzare i FLOPS per watt nelle applicazioni AI.
Intel ha svelato nuovi dettagli sull'acceleratore AI Crescent Island durante il simposio Hot Chips, puntando a un segmento di mercato dedicato ai carichi di inferenza a basso consumo. Basato sull'architettura Xe3P, Crescent Island si presenta come una scheda PCIe da 350W raffreddata ad aria, dotata di memoria LPDDR5X fino a 480 GB, pensata per l'impiego in server tradizionali senza esigenze particolari di alimentazione o raffreddamento.
L'architettura prevede quattro slice Xe3P, per un totale di 32 Xe Core, ciascuno con otto Xe Vector Engine e otto XMX matrix accelerator, raggiungendo 256 unità per tipo. Le cache sono state potenziate: ogni Xe Core offre ora 1MB di general-purpose register file e 512KB di L1 cache, oltre a 32MB di L2 condivisa. Tali migliorie servono a supportare i nuovi motori XMX con profondità systolica a 16, consentendo elaborazioni matriciali più ampie, elemento chiave per le prestazioni di inferenza.
Crescent Island supporta un ampio range di formati dati, dal FP4 fino al FP64 a pieno rate, rendendolo adatto anche a workload di high-performance computing. Sono incluse funzioni sigmoid e tanh, fondamentali per l'inferenza AI, mentre la componente grafica è stata sacrificata a favore della capacità di calcolo. Il chip integra anche feature RAS (reliability, availability, serviceability), tra cui ECC e protezioni di parità.
Intel prevede che Crescent Island trovi spazio in modelli mixture-of-experts e applicazioni che sfruttano tecniche di speculative decoding, ottimizzando così l'impiego delle risorse computazionali in ambienti data center senza richiedere infrastrutture avanzate.
