1. News
2. Meta avrà 350.000 delle GPU AI più veloci di Nvidia entro la fine dell'anno, acquistando anche le AMD MI300

Meta prevede di avere 350.000 delle GPU AI più veloci di Nvidia entro la fine dell'anno, acquistando anche le MI300 di AMD. Entro la fine del 2024, Meta si aspetta di avere una potenza di calcolo AI equivalente a 600.000 GPU H100 di Nvidia. L'azienda sta costruendo un'infrastruttura di calcolo massiva per supportare i propri progetti futuri, inclusi 350.000 H100 entro la fine di quest'anno. Meta è uno dei principali acquirenti delle GPU H100 di Nvidia e acquista anche processori AI di altri tipi, tra cui le MI300 di AMD.

Meta si aspetta di avere entro la fine dell'anno hardware AI con una performance equivalente a 600.000 GPU H100 di Nvidia. Apparentemente, Meta, che è noto per essere uno dei principali acquirenti delle GPU H100 di Nvidia, acquista molti tipi di processori AI, inclusi gli AMD Instinct MI300.

'Al momento stiamo addestrando il nostro modello di prossima generazione Llama 3 e stiamo costruendo un'enorme infrastruttura di calcolo per supportare la nostra roadmap futura, inclusi 350.000 H100 entro la fine di quest'anno e complessivamente quasi 600.000 equivalenti di calcolo se si includono altre GPU', ha scritto Zuckerberg in un post su Instagram.

Basandosi sui dati di Omdia, Meta ha acquistato circa 150.000 GPU Nvidia nel 2023, con solo Microsoft in grado di sfidarlo. Google, Amazon, Oracle e Tencent sono riusciti a ottenere solo circa 50.000 GPU H100 ciascuno, basandosi sui numeri di Omdia. A quanto pare, Meta è ora in procinto di acquistare e installare centinaia di migliaia di GPU Nvidia H100 nei prossimi trimestri. Se Nvidia sarà in grado di soddisfare la domanda delle sue GPU AI e dei suoi prodotti Grace Hopper orientati all'AI è un'altra questione.

Dylan Patel, Chief Analyst di SemiAnalysis, prevede che Nvidia sarà in grado di aumentare la produzione dei suoi prodotti basati su Hopper - la famiglia che include attualmente H100, H200, GH100, GH200 e H20 - a 773.000 nel Q1 2024 e poi a 811.000 nel Q2 2024, il che rappresenta una crescita impressionante considerando che l'azienda ha spedito circa 300.000 H100 nel Q2 2023.

Ciò che è interessante è che Zuckerberg afferma che entro la fine del 2024 la sua azienda avrà una performance AI equivalente a 600.000 GPU H100. Questo probabilmente indica che Meta sta per aggiungere delle nuove GPU AI Nvidia Blackwell alla sua flotta (cosa logica dato che il suo software è progettato attorno ai processori basati su CUDA) e poi acquistare hardware AI da altri fornitori. Infatti, sia Meta che Microsoft stanno acquistando anche un numero significativo di processori AMD Instinct MI300, secondo SemiAnalysis.

'Sebbene Nvidia abbia la capacità di continuare a crescere nella seconda metà dell'anno, la modellazione della domanda che abbiamo fatto indica un calo della domanda di Hopper mentre gli hyperscaler si orientano verso Blackwell', ha detto Dylan Patel a Tom's Hardware. Meta e Microsoft stanno acquistando anche un numero significativo di MI300.

L'obiettivo a lungo termine di Meta è quello di costruire un'intelligenza artificiale generale (AGI) che sia in grado non solo di imparare, generare e rispondere, ma che abbia anche capacità cognitive e capacità di ragionamento delle sue decisioni. Per raggiungere questo obiettivo, Meta sembra avvicinare i suoi sforzi di ricerca AGI e AI generativa. Nel frattempo, Zuckerberg non ha rivelato se l'hardware esistente sia sufficiente per costruire modelli AGI funzionanti.

'La nostra visione a lungo termine è quella di costruire un'intelligenza generale, renderla open source in modo responsabile e renderla ampiamente disponibile affinché tutti possano beneficiarne', ha detto il capo di Meta. 'Stiamo avvicinando i nostri due principali sforzi di ricerca AI - Fundamental AI Research (FAIR) e Generative AI - per supportare questo obiettivo.'

Oltre a costruire enormi data center orientati all'AI per supportare le applicazioni FAIR e GenAI, Facebook sta lavorando anche su dispositivi abilitati all'AI e ha in programma di ampliare la gamma di tali gadget.

'Sono anche molto entusiasta dei nostri progressi nella costruzione di nuovi dispositivi di calcolo centrati sull'AI come gli occhiali intelligenti Ray Ban Meta', ha detto Zuckerberg. 'Presto ci sarà molto altro.'