Pegatron lancia un sistema AI da 1.177 PFLOP con 128 GPU AMD MI350X
Presentato a Computex, il nuovo rack-scale di Pegatron sfida Nvidia con prestazioni AI avanzate.
Pegatron ha presentato a Computex un sistema rack-scale innovativo basato su 128 acceleratori AMD Instinct MI350X, progettato per applicazioni AI ad alte prestazioni. Questo sistema anticipa le soluzioni rack-scale di AMD di una generazione, fungendo da modello di riferimento per le future soluzioni IF64 e IF128 basate su AMD Instinct MI450X.
Il sistema Pegatron AS501-4A1/AS500-4A1 utilizza otto vassoi di calcolo 5U, ciascuno dotato di un processore AMD EPYC della serie 9005 e quattro acceleratori AI e HPC AMD Instinct MI350X. La raffreddamento a liquido è impiegata per garantire prestazioni massime e stabili sotto carichi elevati.
Il sistema offre fino a 1.177 PFLOPS di potenza computazionale FP4 per l'inferenza, con supporto per 36.8 TB di memoria ad alta velocità, grazie a ciascun MI350X che gestisce fino a 288GB di HBM3E. Tuttavia, l'uso di Ethernet per la comunicazione tra GPU può limitare la scalabilità del sistema, rendendolo più adatto a carichi di lavoro di inferenza o formazione multi-istanza piuttosto che a un addestramento LLM sincronizzato.
Questa macchina rappresenta un passaggio verso le soluzioni della serie MI400 di AMD, puntando a sfidare il dominio di Nvidia nelle soluzioni AI su larga scala.
Cosa sono gli acceleratori AMD Instinct MI350X e quali sono le loro caratteristiche principali?
Gli acceleratori AMD Instinct MI350X sono dispositivi progettati per applicazioni di intelligenza artificiale
Quali sono le specifiche del sistema rack-scale di Pegatron presentato al Computex?
Il sistema rack-scale di Pegatron, presentato al Computex, include otto vassoi di calcolo 5U, ciascuno equipaggiato con un processore AMD EPYC della serie 9005 e quattro acceleratori AMD Instinct MI350X. Questo setup offre fino a 1.177 PFLOPS di potenza computazionale FP4 per l'inferenza e supporta fino a 36,8 TB di memoria ad alta velocità.
Quali sono i vantaggi del raffreddamento a liquido nel sistema Pegatron AS501-4A1/AS500-4A1?
Il raffreddamento a liquido nel sistema Pegatron AS501-4A1/AS500-4A1 garantisce prestazioni massime e stabili sotto carichi elevati, migliorando l'efficienza termica e permettendo un funzionamento più silenzioso rispetto ai tradizionali sistemi di raffreddamento ad aria.
Quali sono le principali differenze tra l'architettura AMD CDNA™ 3 e CDNA™ 4?
L'architettura AMD CDNA™ 4, prevista per il 2025, offre un aumento fino a 35 volte delle prestazioni di inferenza AI rispetto alla CDNA™ 3. Supporta nuovi formati di dati come FP4 e FP6 e include fino a 288 GB di memoria HBM3E, migliorando significativamente le capacità di elaborazione AI.
Come si posiziona AMD nel mercato degli acceleratori AI rispetto a Nvidia?
AMD sta ampliando la sua presenza nel mercato degli acceleratori AI con prodotti come l'Instinct MI325X, che offre una capacità di memoria doppia e una larghezza di banda 1,3 volte superiore rispetto ai concorrenti di Nvidia. Inoltre, AMD ha pianificato un rilascio annuale di nuovi acceleratori per mantenere la competitività nel settore.
Quali sono le prospettive future per gli acceleratori AMD Instinct?
AMD ha annunciato una roadmap che prevede il rilascio annuale di nuovi acceleratori Instinct, con l'architettura CDNA™ 4 nel 2025 e CDNA™ 'Next' nel 2026, puntando a migliorare continuamente le prestazioni e le capacità di memoria per applicazioni AI su larga scala.
