Amazon limita l'uso interno delle CPU per rispondere alla domanda AI
AWS chiede agli ingegneri di ridurre lo spreco di CPU per garantire risorse sufficienti alla crescente domanda di agentic AI.
Amazon Web Services ha avviato una stretta sull’utilizzo interno delle istanze EC2 da parte dei propri ingegneri. L’azienda ha recentemente incontrato i team tecnici, richiedendo una riduzione dello spreco di CPU per assicurare che la capacità sia sufficiente a soddisfare le esigenze crescenti dei clienti, in particolare nel settore AI agentic.
Negli ultimi mesi, la domanda di CPU nei data center è cresciuta rapidamente, spostando il tradizionale rapporto tra GPU e CPU verso una quasi parità, a causa della complessità dei carichi di lavoro legati agli agenti AI. Questi workload richiedono non solo accelerazione GPU per l’inferenza, ma anche numerose operazioni gestite direttamente su CPU, rendendo le risorse computazionali più contese che mai.
Amazon offre diverse opzioni di CPU nelle sue istanze EC2, tra cui AMD, Intel e il nuovo Graviton5 basato su architettura Arm, che rappresenta la soluzione più potente sviluppata dal gruppo. La pressione sulla disponibilità ha portato ad attese più lunghe per gli ingegneri interni e a una maggiore attenzione sull’ottimizzazione nell’uso delle risorse.
Il fenomeno riflette una tendenza di tutto il settore, con aziende come AMD e Nvidia che spingono nuove CPU dedicate proprio per rispondere a queste nuove esigenze infrastrutturali.
