Moonshot limita le capacità di hacking della AI Kimi K3.1 Pro
La startup cinese riduce i rischi di hacking del nuovo modello open-weight, bilanciando potenza e sicurezza nella AI.
Moonshot AI ha presentato il modello Kimi K3.1 Pro, una soluzione open-weight con circa 3 trilioni di parametri, dichiaratamente potenziata per supportare lo sviluppo software ma limitata nelle capacità di hacking. L'azienda ha esplicitato di aver escluso dati specifici su cyberattacchi dal dataset di addestramento e dagli ambienti di reinforcement learning, allo scopo di impedire l'uso della AI per operazioni offensive.
L’apertura del modello — che sarà disponibile dal 4 novembre — consente ai developer di scaricare i pesi e modificarne il funzionamento. Tuttavia, una volta distribuiti pubblicamente i file, l'efficacia delle misure di sicurezza implementate potrebbe diminuire. Test interni indicano una riduzione dell’efficacia nelle simulazioni di attacco: Kimi K3.1 Pro segna l’81% contro il 90,5% di una versione priva di restrizioni in un benchmark aziendale.
La questione sottolinea le crescenti preoccupazioni del settore: le stesse capacità AI possono essere impiegate sia per rafforzare la difesa sia per agevolare attacchi cyber. Open-weight AI offre trasparenza e strumenti per la sicurezza di software obsoleti, ma apre anche rischi di abuso una volta persa la supervisione diretta.
Kimi K3.1 Pro è dotato inoltre di un contesto di un milione di token e una versione Highspeed, due-tre volte più rapida. Con la distribuzione al pubblico, la sostenibilità delle salvaguardie sarà messa alla prova dall’intera comunità di ricercatori di sicurezza.
