Intel e SambaNova lanciano una piattaforma AI eterogenea per nuove sfide di inference
La piattaforma sfrutta Xeon 6, SN50 RDU e GPU Nvidia per gestire diversi carichi, puntando su scalabilità e compatibilità data center.
Intel e SambaNova hanno annunciato una nuova architettura eterogenea per l'inference AI che combina diversi hardware specializzati per ottimizzare l'esecuzione di carichi di lavoro complessi. La piattaforma utilizza CPU Intel Xeon 6, SambaNova SN50 Reconfigurable Dataflow Units (RDU) e GPU Nvidia, assegnando a ciascun componente una fase specifica dell'inference.
In dettaglio, GPU e AI accelerators si occupano della fase di prefill e della gestione dei prompt, SN50 RDU è dedicata al decoding e alla generazione di token, mentre i processori Xeon 6 gestiscono le operazioni legate agli agent, come la compilazione di codice e la validazione dei risultati, oltre alla distribuzione del carico di lavoro.
Secondo dati interni SambaNova, Xeon 6 offre oltre il 50% di prestazioni superiori nella compilazione LLVM rispetto alle CPU server Arm, e fino al 70% in più nei workload di vector database rispetto ad altri processori x86. La piattaforma, prevista per la seconda metà del 2026, è pensata per aziende, cloud operator e programmi AI sovrani, offrendo piena compatibilità drop-in con i data center enterprise da 30kW.
