Il divieto di export USA costringe Anthropic a disattivare Fable 5 e Mythos 5 in tutto il mondo

Lo sviluppatore di IA Anthropic, con sede negli USA, in seguito a un'ordinanza del governo, sta interrompendo l'accesso ai suoi modelli di Intelligenza Artificiale più avanzati per tutti gli utenti a livello mondiale, almeno per il momento. Tuttavia, poiché per Anthropic non è possibile escludere solo gli utenti provenienti da fuori dagli USA, l'unica alternativa praticabile rimaneva la disattivazione. "Partiamo dal presupposto che si tratti di un malinteso e stiamo lavorando per ripristinare l'accesso il prima possibile", ha dichiarato l'azienda, scusandosi con gli utenti.

Secondo quanto riportato dai media statunitensi, l'occasione sarebbe stata un rapporto secondo cui i ricercatori di cybersicurezza interni di Amazon sarebbero riusciti a effettuare con successo il "jailbreak" del modello Fable 5 tramite una sequenza mirata di prompt. Andrew Jassy, il CEO del gruppo Amazon, avrebbe illustrato la cosa a rappresentanti del governo USA, tra cui il segretario al Tesoro Scott Bessent. Il modello avrebbe quindi rilasciato informazioni sensibili utilizzabili direttamente per attacchi informatici su larga scala.

Contesto dell'ordinanza di Washington

Anthropic ha respinto questa versione dei fatti in un post sul blog. Per quanto noto, il governo avrebbe ricevuto informazioni solo su un jailbreak "potenziale", ma non su uno verificato e critico. Inoltre, le presunte vulnerabilità di sicurezza scoperte sarebbero state "minime". L'azienda ha sottolineato di aver ricevuto solo parti delle informazioni dal governo e ha parlato di un malinteso.

Fable 5 è una variante del modello Anthropic Mythos, che in brevissimo tempo individua pericolose vulnerabilità di sicurezza in quasi ogni software. L'Intelligenza Artificiale alla base del modello "Mythos" di Anthropic è particolarmente abile nel individuare vulnerabilità software rimaste talvolta non scoperte per decenni. Finora questa capacità è stata utilizzata da autorità USA e aziende selezionate per individuare falle di sicurezza.

Il meno potente Fable 5 era diventato disponibile nel tariffario Pro di Anthropic solo pochi giorni prima dell'incidente. Alla Casa Bianca vi erano state preoccupazioni riguardo a un possibile jailbreak, ossia un trucco che aiuta a liberare le pericolose capacità di Fable 5 aggirando i meccanismi di protezione integrati. Da un lato, Fable 5 avrebbe dovuto essere incluso nell'abbonamento solo fino al 22 giugno, prima che il modello diventasse disponibile esclusivamente tramite API e con fatturazione a consumo di token, risultando quindi notevolmente più costoso.

Funzionamento e limitazioni di Fable 5

Fable 5 rifiuta di rispondere a prompt nei settori della biologia, della chimica, della cybersicurezza e della distillazione della conoscenza. Fable 5 passava regolarmente in background al modello Anthropic di fascia immediatamente inferiore, Claude Opus 4.8. Senza che ciò fosse riconoscibile per gli utenti. Anthropic indica come motivazione una misura di protezione contro la distillazione della conoscenza, ovvero l'addestramento di un modello di IA tramite un altro. Fable 5 dovrebbe riconoscere autonomamente quando viene impiegato per tale addestramento e quindi passare a Opus 4.8.

Paghi per Fable 5, ma in pratica ottieni un mix di modelli non controllabile. Anche se Anthropic ha promesso di reinserire Fable 5 nell'abbonamento in un secondo momento. Nel confronto benchmark di Anthropic, Fable 5 è nettamente più potente, ad esempio, di Opus 4.8 o di ChatGPT 5.5. Come motivo, Anthropic indica la mancanza di capacità, che dovrà essere creata con nuovi data center.

Dietro le quinte, il CEO di Amazon Andrew Jassy avrebbe avuto un ruolo centrale. Come riportato concordemente dai media USA come The Wall Street Journal, Reuters e The Information, Jassy avrebbe cercato deliberatamente il dialogo con funzionari governativi di alto livello, tra cui il segretario al Tesoro USA Scott Bessent. Amazon è essa stessa uno dei maggiori investitori di Anthropic ed è strettamente collegata all'azienda di IA tramite la sua divisione cloud AWS. Un portavoce di Amazon ha dichiarato: "Als führender Cloud-Anbieter, der eine große Anzahl von Kunden im privaten und öffentlichen Sektor bedient, ist es nicht ungewöhnlich, dass Regierungen unseren Rat zu potenziellen Sicherheitsrisiken suchen. Wenn dies geschieht, teilen wir die Details dieser Diskussionen nicht."

Il ruolo di Amazon e David Sacks

Anche il miliardario della tecnologia David Sacks potrebbe avere avuto un ruolo. David Sacks, ex "zar dell'IA" del governo Trump e co-presidente del comitato consultivo del Presidente per la scienza e la tecnologia, ha confermato a TechCrunch che un "partner altamente credibile e affidabile sia di Anthropic che del governo USA" si sarebbe rivolto all'amministrazione con un jailbreak funzionante. Secondo Sacks, l'amministrazione avrebbe in definitiva chiesto al CEO di Anthropic Dario Amodei di correggere il jailbreak o di togliere temporaneamente il modello dalla rete. "Dario weigerte sich" – a quel punto il governo avrebbe tirato "a malincuore" la rete d'emergenza, imponendo un rigido divieto di export.

Sacks ha espresso la speranza dell'amministrazione che Anthropic risolva il problema di sicurezza, che il controllo sulle esportazioni venga revocato e che Fable possa tornare nella release generale. La motivazione ufficiale dell'amministrazione Trump per il divieto di export è apparsa drastica: i nuovi modelli di Anthropic rappresentano un rischio inaccettabile per la sicurezza nazionale, poiché potrebbero individuare vulnerabilità critiche nella sicurezza del software ed essere sfruttati per attacchi informatici.

Secondo la versione di Anthropic, tuttavia, non sarebbe noto alcun modo per portare il modello a fare qualcosa che non sia realizzabile anche con altri modelli, come ChatGPT 5.5. Anthropic ha inoltre sottolineato che le misure di sicurezza in Fable 5 sono state testate in modo approfondito. L'azienda si è opposta a un blocco del software per centinaia di milioni di utenti per questo motivo. Le attuali misure del governo non corrispondono tuttavia ai principi di una regolamentazione equa e basata sui fatti, ha dichiarato l'azienda.

Posizioni e reazioni di Anthropic

Allo stesso tempo, solo pochi giorni prima il CEO di Anthropic Dario Amodei aveva chiesto una supervisione più forte dell