Google denuncia tentativi di clonazione di Gemini tramite attacchi di distillazione
Google rivela che oltre 100.000 prompt sono stati usati per estrarre conoscenza da Gemini e creare modelli AI concorrenti più economici.
Google ha recentemente segnalato un'ondata di attacchi di distillazione ai danni del suo modello di intelligenza artificiale Gemini. Secondo il rapporto pubblicato dall'azienda, attori commerciali avrebbero inviato oltre 100.000 prompt a Gemini, raccogliendo le risposte per addestrare modelli AI concorrenti a costi molto inferiori rispetto allo sviluppo originale.
Questa tecnica, nota come model distillation, consente di ottenere un modello che imita il comportamento del modello di partenza senza accedere direttamente al suo codice o ai dati di training. Il processo prevede la raccolta di migliaia di coppie input-output da un modello esistente, che vengono poi utilizzate per addestrare un modello più piccolo e meno costoso ma in grado di replicare molte funzionalità dell'originale.
Google definisce tale attività furto di proprietà intellettuale e sottolinea che casi simili sono stati segnalati anche da altri leader del settore, come OpenAI. L'azienda ha identificato varie campagne, spesso orientate a estrarre le capacità di reasoning simulato di Gemini. Nonostante l'implementazione di nuove contromisure, Google ammette che, finché i modelli sono accessibili via API, il rischio di distillazione rimane elevato.
Il fenomeno solleva interrogativi sulla protezione delle capacità dei LLM e sulla linea sottile tra innovazione, concorrenza e tutela della proprietà intellettuale nel campo dell'AI.
