Anthropic valuta i chip AI senza DRAM di Fractile per ridurre i costi di inferenza
La startup inglese Fractile propone un'architettura SRAM che punta a superare i limiti dei chip tradizionali per l'inferenza AI.
Anthropic, sviluppatore di Claude, ha avviato colloqui preliminari con la startup londinese Fractile per valutare l'acquisto dei nuovi inference accelerator basati su architettura SRAM. Si tratterebbe di un quarto fornitore di chip AI per Anthropic, già cliente di Nvidia, Google e Amazon.
La proposta di Fractile punta a eliminare il collo di bottiglia principale nell'elaborazione dei grandi modelli linguistici: il trasferimento dati tra GPU e DRAM esterna. L'architettura frutto della ricerca di Walter Goodwin, fondatore di Fractile, prevede l'integrazione della memoria SRAM direttamente sullo stesso die della logica di calcolo, consentendo di "memorizzare i dati necessari alle operazioni accanto ai transistor che eseguono i calcoli". Secondo simulazioni, questa soluzione potrebbe essere 100 volte più veloce e 10 volte più economica rispetto alle GPU Nvidia, anche se i chip reali sono previsti solo per il 2027.
Anthropic conferma così la propria strategia di diversificazione nella fornitura di hardware, evitando dipendenze da singoli vendor e rispondendo alla crescente domanda di calcolo AI. Fractile, forte di un seed da 15 milioni di dollari e di un team proveniente da Graphcore, Nvidia e Imagination Technologies, si inserisce nel trend delle giovani aziende che sperimentano nuove architetture per ottimizzare costi e prestazioni dell'inferenza AI.
