Le GPU H100 di Nvidia consumeranno più energia di alcuni paesi
Ogni GPU consuma 700W di energia, se ne prevedono 3,5 milioni di vendite nell'anno prossimo
.webp)
Un sacco di GPU per l'IA consumano molta energia.
Nvidia vende letteralmente tonnellate delle sue GPU per l'IA H100, e ognuna consuma fino a 700W di energia, più di quella consumata dalla media delle famiglie americane. Ora che Nvidia sta vendendo le sue nuove GPU in grandi quantità per i carichi di lavoro dell'IA, si prevede che il consumo aggregato di energia di queste GPU sarà altissimo, pari a quello di una grande città americana. Un rapido calcolo approssimativo rivela anche che le GPU consumeranno più energia di alcuni piccoli paesi europei.
La potenza totale consumata dai data center utilizzati per le applicazioni di intelligenza artificiale oggi è paragonabile a quella della nazione di Cipro, secondo le stime della società francese Schneider Electric fatte a ottobre. Ma cosa succede con il consumo di energia dei processori per l'IA più popolari, ovvero le GPU H100 e A100 di Nvidia?
Paul Churnock, Principal Electrical Engineer di Datacenter Technical Governance and Strategy di Microsoft, crede che le GPU H100 di Nvidia consumeranno più energia di tutte le abitazioni di Phoenix, Arizona, entro la fine del 2024, quando milioni di queste GPU saranno operative. Tuttavia, il consumo totale di energia sarà inferiore a quello delle città più grandi, come Houston, Texas.
'Questa è la GPU H100 di Nvidia; ha un consumo di picco di 700W', ha scritto Churnock in un post su LinkedIn. 'Con un utilizzo annuale del 61%, equivale al consumo energetico della media delle famiglie americane (basato su 2,51 persone per famiglia). Le vendite stimate da Nvidia delle GPU H100 sono di 1,5-2 milioni di unità nel 2024. Rispetto al consumo di energia domestica per città , i chip H100 di Nvidia sarebbero classificati come il quinto più grande, appena dietro Houston, Texas, e davanti a Phoenix, Arizona.'
Effettivamente, con un utilizzo annuale del 61%, una GPU H100 consumerebbe circa 3.740 kilowattora (kWh) di elettricità all'anno. Supponendo che Nvidia venda 1,5 milioni di GPU H100 nel 2023 e due milioni di GPU H100 nel 2024, saranno presenti 3,5 milioni di tali processori entro la fine del 2024. In totale, consumeranno una sorprendente quantità di 13.091.820.000 kilowattora (kWh) di elettricità all'anno, o 13.091,82 GWh.
Per mettere il numero in contesto, circa 13.092 GWh è il consumo annuale di energia di alcuni paesi, come Georgia, Lituania o Guatemala. Sebbene questa quantità di consumo energetico sembri piuttosto impressionante, va notato che l'efficienza delle GPU per l'IA e l'HPC sta aumentando. Quindi, mentre la B100 di Nvidia basata su Blackwell probabilmente supererà il consumo energetico della H100, offrirà prestazioni superiori e quindi svolgerà più lavoro per ogni unità di energia consumata.
