Anthropic limita Fable 5: stop a cybersecurity, biologia e chimica
Il nuovo modello AI di Anthropic alza le barriere su temi sensibili per evitare usi malevoli, attivando filtri più severi su cybersecurity e scienze.
Anthropic ha annunciato il lancio pubblico di Claude Fable 5, il suo primo modello AI “Mythos-class”, che supera i precedenti in capacità generali. Tuttavia, Fable 5 si distingue per una rigida politica di salvaguardia: non risponde a domande su cybersecurity, biologia e chimica, ambiti ritenuti troppo rischiosi per la potenziale assistenza a soggetti malevoli.
Le richieste su questi temi vengono dirottate verso il precedente modello Claude Opus 4.8, avvisando l’utente del blocco. Anthropic ha dichiarato che questi filtri sono "più severi del necessario", accettando il rischio di respingere anche domande innocue pur di prevenire abusi. Nei test, tali falsi positivi si sono verificati in meno del 5% delle sessioni.
La protezione è gestita tramite classificatori che individuano query proibite e tentativi di jailbreak. Dopo oltre 1.000 ore di testing esterno, non sono emersi metodi universali per aggirare i blocchi di Fable 5, sottolineando la robustezza del sistema.
Per l’accesso a funzionalità avanzate su cybersecurity e scienze, Anthropic prevede programmi riservati a professionisti verificati, ampliando tali accessi in collaborazione con enti governativi e organizzazioni scientifiche.
