Meta presenta la nuova generazione di chip MTIA per l’AI inference
Meta, insieme ai principali hyperscaler, punta su chip custom per l’AI inference, riducendo la dipendenza da Nvidia.
Meta ha annunciato quattro nuove generazioni di chip custom della famiglia Meta Training and Inference Accelerator (MTIA): MTIA 300, 400, 450 e 500, pronti per essere distribuiti entro il 2027. Questi chip sono progettati specificamente per ottimizzare i carichi di lavoro di AI inference, sfruttando al massimo la banda passante della memoria HBM, considerata da Meta il principale vincolo prestazionale in questo ambito.
La progressione della linea MTIA promette un aumento di 4,5 volte della banda HBM e di 25 volte delle FLOPs computazionali, con il MTIA 500 che offre un ulteriore incremento del 50% di banda rispetto al 450. L’architettura modulare chiplet consente alle nuove generazioni di integrarsi nelle infrastrutture esistenti senza modifiche strutturali ai data center, accelerando il ciclo di sviluppo a sei mesi.
La strategia di Meta si inserisce in un trend che vede anche Google, AWS e Microsoft sviluppare soluzioni silicon dedicate, mirate a rendere più efficiente l’inference e a diversificare l’offerta rispetto al predominio Nvidia nel training di modelli AI. Il supporto software, con integrazione nativa su stack come PyTorch e Triton, punta inoltre ad agevolare la portabilità dei workload tra diversi acceleratori.
