John Carmack propone fibre ottiche come cache L2 per l'AI
Il programmatore suggerisce l'uso di lunghe fibre ottiche come alternativa alla DRAM per ridurre la latenza nello streaming dati AI.
Il celebre programmatore John Carmack ha recentemente ipotizzato l'impiego di lunghe linee in fibra ottica come una sorta di cache L2 per la gestione dei dati dei modelli di intelligenza artificiale. L'idea nasce dall'osservazione che la fibra a singolo modo può raggiungere velocità di 256 Tb/s su distanze fino a 200 km, contenendo in ogni istante fino a 32 GB di dati in transito.
Carmack suggerisce che utilizzando la fibra come memoria di tipo delay-line, simile ai sistemi storici che sfruttavano il mercurio, si potrebbe mantenere gli acceleratori AI sempre alimentati da dati con latenza quasi nulla e ampia banda, riducendo il consumo energetico rispetto alla DRAM tradizionale. Infatti, la gestione della luce risulterebbe molto più efficiente dal punto di vista energetico.
Nonostante il concept risulti affascinante, diversi esperti hanno sottolineato le difficoltà legate ai costi e all'infrastruttura, oltre ai limiti imposti da amplificatori ottici e DSP. Carmack indica anche una strada più pratica: collegare direttamente numerosi chip flash memory agli acceleratori AI tramite interfacce standard. Tale soluzione, già oggetto di ricerca da parte della comunità scientifica, potrebbe trovare applicazione concreta nel prossimo futuro.
