Meta presenta quattro nuovi chip MTIA per accelerare l’AI inference
I nuovi acceleratori MTIA, sviluppati con Broadcom, puntano a ottimizzare i carichi di inference AI rispetto alle GPU tradizionali.
Meta ha annunciato lo sviluppo di quattro nuove generazioni dei propri Meta Training and Inference Accelerator (MTIA), in collaborazione con Broadcom, per l’inference AI nei data center. I modelli MTIA 300, 400, 450 e 500 saranno rilasciati a cadenza semestrale entro il 2027, secondo una strategia focalizzata su sviluppo rapido e compatibilità con gli standard industriali.
Il MTIA 300 è già in produzione, mentre il 400 è in fase di test in laboratorio. I modelli 450 e 500, previsti per il 2027, puntano ad incrementare drasticamente la HBM bandwidth e la potenza di calcolo (FLOPs). In particolare, MTIA 450 offre il doppio della HBM bandwidth rispetto a 400, superando le soluzioni Nvidia H100 e H200; MTIA 500 aggiungerà un ulteriore 50% di banda e fino all’80% di capacità in più.
La progettazione enfatizza la modularità: le nuove versioni sono compatibili con chassis, rack e infrastrutture di rete esistenti, facilitando l’adozione rapida rispetto al ciclo industriale tradizionale. Gli acceleratori implementano supporto hardware per FlashAttention, architetture mixture-of-experts e data type customizzati per l’inference, garantendo prestazioni elevate senza overhead inutili.
La software stack nativa su PyTorch, vLLM e Triton permette la coesistenza con GPU senza necessità di riscrittura del codice. Meta sottolinea che migliaia di MTIA sono già attivi nei propri servizi, parte di una strategia più ampia per ridurre la dipendenza da Nvidia nei carichi di AI.
