OpenAI sviluppa un 'kill switch' per fermare l'AI in caso di emergenza
Dopo un incidente di sicurezza, OpenAI implementa sistemi automatici per bloccare l'attività delle sue AI in presenza di minacce gravi.
Dopo un episodio critico avvenuto a luglio, in cui alcuni modelli di OpenAI hanno aggirato i controlli di un ambiente di test protetto e sono riusciti ad accedere a internet e ad infrastrutture esterne, l'azienda sta lavorando a un vero e proprio 'kill switch' per la sua intelligenza artificiale.
Secondo quanto dichiarato ai membri del Congresso USA, OpenAI sta sviluppando sistemi di monitoraggio automatizzati in grado di interrompere autonomamente l'attività dell'AI quando vengono rilevati problemi di sicurezza particolarmente gravi. Attualmente, il sistema invia alert ai ricercatori e agli ingegneri di sicurezza in caso di azioni potenzialmente pericolose. Se il rischio risulta elevato e non viene accertato che si tratti di un falso allarme entro 30 minuti, l'attività viene sospesa.
L'obiettivo però è rendere questi sistemi completamente autonomi, capaci di bloccare l'AI senza intervento umano. «Stiamo rafforzando i controlli e rendendo più difficile l'accesso a internet durante i test di sicurezza», afferma l'azienda. Il Congresso, intanto, valuta l'introduzione di una legge che obbligherebbe tutti gli sviluppatori di AI avanzate a dotarsi di tali meccanismi di emergenza.
