Nvidia Tesla V100 SMX trasformata in GPU PCIe: efficienza AI sorprendente
Una vecchia GPU Nvidia per server, adattata a PCIe con PCB custom e raffreddamento 3D, supera moderne schede in AI inference.
Un esperimento condotto da un noto canale YouTube ha dimostrato che una Nvidia Tesla V100 con interfaccia SMX, progettata per datacenter, può essere adattata a sistemi desktop consumer tramite una scheda PCIe custom e un sistema di raffreddamento stampato in 3D. Il costo complessivo dell’operazione si aggira sui $200, rendendo questa soluzione estremamente competitiva rispetto alle offerte moderne.
La V100, dotata di 16GB di HBM2 e architettura Volta, si è dimostrata capace di gestire LLMs come gpt-oss-20b e Google's gemma4: e4b, raggiungendo prestazioni superiori a moderne GPU di fascia media come la Radeon RX 7800 XT e la RTX 3060 in scenari di AI inference, con un'efficienza energetica sorprendente: limitando la potenza a 100W, la V100 ottiene 0,55 token/s per watt rispetto a 0,39 della 3060.
Nonostante il maggior consumo a riposo, la V100 si dimostra ancora oggi competitiva per carichi AI e applicazioni come Frigate NVR, confermando il valore delle soluzioni enterprise di precedente generazione nel contesto attuale dell’intelligenza artificiale.
