Anthropic disattiva i modelli Fable 5 e Mythos 5 su ordine di embargo americano

Secondo informazioni riportate da diversi media americani, il CEO di Amazon Andrew Jassy avrebbe svolto un ruolo trainante in questa decisione. Avrebbe informato alti funzionari governativi, tra cui il segretario al Tesoro Scott Bessent, che i ricercatori di cybersecurity di Amazon erano riusciti a effettuare il « jailbreak » del modello Fable 5 con una sequenza di istruzioni mirata. Il modello avrebbe quindi prodotto informazioni sensibili suscettibili di essere sfruttate per cyberattacchi su larga scala.

Il ruolo trainante di Andrew Jassy e di Amazon

Il governo di Donald Trump ha giustificato l'embargo invocando un rischio inaccettabile per la sicurezza nazionale: i nuovi modelli di Anthropic sarebbero in grado di identificare falle software critiche utilizzabili a fini offensivi. Secondo David Sacks, ex « zar dell'IA » dell'amministrazione Trump e copresidente del Council of Advisors on Science and Technology, l'amministrazione avrebbe lanciato un ultimatum al direttore generale di Anthropic Dario Amodei: correggere la falla di sicurezza o ritirare temporaneamente il modello. « Die Administration forderte [Anthropic-CEO Dario Amodei] auf, den Jailbreak entweder zu flicken oder das Modell vorerst vom Netz zu nehmen. Dario weigerte sich ». Di fronte a questo rifiuto, il governo avrebbe tirato la corda « widerwillig » imponendo un embargo stretto.

Sacks ha confermato il coinvolgimento di un « partner » anonimo, presentato come « altamente credibile » e degno di fiducia, sia da parte di Anthropic che del governo americano, che avrebbe mostrato alle autorità un jailbreak funzionale. Il miliardario della tech David Sacks avrebbe anch'egli avuto un ruolo in questo processo. Amazon, che figura tra i più grandi investitori di Anthropic ed è strettamente legata alla società di IA tramite la sua divisione cloud AWS, ha tuttavia rifiutato di divulgare i dettagli di queste discussioni: « Wenn dies geschieht, teilen wir die Details dieser Diskussionen nicht. » Un portavoce di Amazon ha nondimeno sottolineato che non era insolito, per un grande fornitore di cloud, essere consultato dai governi su rischi di sicurezza potenziali: « Als führender Cloud-Anbieter, der eine große Anzahl von Kunden im privaten und öffentlichen Sektor bedient, ist es nicht ungewöhnlich, dass Regierungen unseren Rat zu potenziellen Sicherheitsrisiken suchen ».

Anthropic contesta la proporzionalità della misura

Dal canto suo, Anthropic contesta fermamente la proporzionalità della misura. In un post sul blog, l'azienda afferma che le autorità hanno ricevuto soltanto informazioni relative a un jailbreak « potenziale » e non verificato, e che le falle eventualmente sfruttate sarebbero « minimal » e già note. L'azienda ha spiegato di aver esaminato una dimostrazione della tecnica, che sfruttava alcune vulnerabilità già identificate e relativamente semplici, e indicato che nessun jailbreak universale — ossia un metodo che disattivi l'insieme delle misure di protezione — era stato scoperto. Anthropic aggiunge che le autorità hanno finora fornito soltanto indicazioni orali riguardanti un jailbreak possibile, strettamente limitato e non universale.

Per conformarsi alle esigenze delle autorità, Anthropic ha disattivato l'accesso ai due modelli per l'insieme dei suoi clienti, non avendo la possibilità tecnica di escludere unicamente gli utenti situati fuori dagli Stati Uniti. L'azienda si è scusata con i propri clienti per queste restrizioni e ha dichiarato di presumere un malinteso: « Anthropic entschuldigte sich bei seinen Kunden für die Einschränkungen und erklärte, man gehe derzeit von einem Missverständnis aus. » Riconosce peraltro che una protezione completa contro l'insieme delle tecniche di jailbreak non è ancora possibile a livello di settore.

Precedenti e appelli alla trasparenza

Nella propria difesa, Anthropic sottolinea che altri modelli liberamente accessibili sul mercato, tra cui GPT-5.5, presentano capacità simili. L'azienda sostiene che l'applicazione di uno standard comparabile all'insieme dei principali fornitori di IA potrebbe, di fatto, impedire l'introduzione di nuovi modelli: « Andere, frei zugängliche Modelle auf dem Markt der Konkurrenz (genannt wird GPT-5.5) würden über ganz ähnliche Fähigkeiten verfügen. » Secondo Anthropic, Fable 5 è un modello commerciale già utilizzato da centinaia di milioni di persone.

L'azienda ha inoltre precisato di aver sottoposto Fable 5, prima della sua uscita, a diverse migliaia di ore di test cosiddetti di « red teaming » condotti congiuntamente con autorità, organizzazioni esterne e team interni. Queste verifiche non avevano, secondo lei, rivelato alcuna falla critica che giustificasse un embargo. Ricorda infine che la procedura di blocco di un modello giudicato pericoloso deve, a suo avviso, fondarsi su un processo trasparente, equo e tecnicamente tracciabile. Sacks ha tuttavia indicato che l'amministrazione spera di vedere Anthropic correggere il problema di sicurezza, dopodiché i controlli all'esportazione verrebbero revocati e Fable potrebbe tornare in distribuzione generale: « Die Hoffnung der Administration ist nun, dass Anthropic das Sicherheitsproblem behebt, die Exportkontrolle aufgehoben wird und Fable wieder in den allgemeinen Release gehen kann. » Anthropic ha dichiarato di lavorare al ripristino dell'accesso a Fable 5 e Mythos 5 nel più breve tempo possibile.