Anthropic propone un freno globale per l'IA particolarmente potente

Anthropic cita come motivo specifico per questa iniziativa i rapidi progressi degli attuali modelli di IA, in particolare la loro crescente capacità di auto-migliorarsi e svilupparsi autonomamente. L'azienda avverte che il rischio di perdere il controllo umano sull'IA aumenta una volta che i modelli sono in grado di ottimizzarsi autonomamente. Anthropic ritiene che la pietra miliare di tale capacità sia più vicina di quanto molte istituzioni siano preparate ad affrontare.

Di cosa tratta il post sul blog

Anthropic definisce "auto-miglioramento ricorsivo" il fenomeno per cui un sistema di IA produce versioni successive sempre più potenti in gran parte senza intervento umano. Secondo l'azienda, sebbene questo sviluppo non sia inevitabile, è uno scenario a cui la società deve prepararsi. Anthropic stessa ammette che non è chiaro se i metodi di addestramento e le architetture odierne raggiungano questo potenziale; tuttavia, l'azienda ritiene che il rischio meriti una discussione.

Una pausa o un rallentamento, secondo Anthropic, dovrebbe tuttavia entrare in vigore solo se tutti i principali sviluppatori partecipassero contemporaneamente e in modo verificabile. L'azienda rifiuta esplicitamente passi unilaterali da parte di singole aziende, poiché, secondo la sua argomentazione, ciò cambierebbe semplicemente la posizione di leadership di altri attori. "Se tali sistemi esistessero, probabilmente rallenteremmo o faremmo una pausa temporanea", si legge nel post sul blog, con la condizione che le regole siano verificabili per tutti i partecipanti.

Perché una pausa può funzionare solo collettivamente

Il CEO di Anthropic, Dario Amodei, aveva già dichiarato a gennaio al World Economic Forum di Davos che la corsa all'IA con la Cina rendeva molto difficile un rallentamento dello sviluppo. L'azienda ribadisce ora indirettamente questa valutazione ammettendo che attualmente non vi è alcuna volontà visibile nel settore di fare una pausa. Ciononostante, Anthropic intende organizzare nei prossimi mesi tavole rotonde con rappresentanti governativi, scienziati, gruppi della società civile e aziende concorrenti di IA per chiarire le questioni aperte.

Dal punto di vista di Anthropic, ciò include in particolare le condizioni in cui dovrebbe entrare in vigore un rallentamento, chi lo dovrebbe supervisionare e a quali condizioni dovrebbe essere revocato. L'istituto di ricerca interno all'azienda lavorerà parallelamente su approcci tecnici che rendano possibile un rallentamento controllato. Come esempio storico, Anthropic fa riferimento al Trattato INF, la cui negoziazione ha richiesto decenni, sottolineando così la dimensione che potrebbe avere un meccanismo di controllo coordinato a livello internazionale.

Controvento politico da Washington

Il fatto che questa iniziativa cada in una fase politicamente carica è dimostrato da un attuale conflitto con il governo degli Stati Uniti. La Casa Bianca, sotto la presidenza di Donald Trump, accusa Anthropic di frenare l'industria nazionale nella competizione globale con richieste di regolamentazione più severa. Allo stesso tempo, Anthropic è attualmente in una disputa legale con il Dipartimento della Difesa degli Stati Uniti, dopo che l'azienda ha negato al Pentagono l'uso militare illimitato della sua IA. Di conseguenza, il Pentagono classifica Anthropic come "rischio per la sicurezza della catena di approvvigionamento"; Anthropic sta facendo causa contro questa classificazione.

L'azienda giustifica la sua posizione con chiare linee rosse: la propria tecnologia non deve essere utilizzata per la sorveglianza di massa interna né per sistemi d'arma completamente autonomi. Anche l'Unione Europea mostra interesse per una cooperazione più stretta e spera di ottenere un accesso di prova alla tecnologia di IA di Anthropic per valutare meglio i potenziali rischi.

Forza economica e piani di quotazione in borsa

Anthropic si trova in una posizione economicamente forte. Dopo un recente round di finanziamento, l'azienda è valutata 965 miliardi di dollari, superando il rivale OpenAI. Lunedì, Anthropic ha inoltre presentato in via confidenziale documenti per una quotazione in borsa alla SEC statunitense, posizionandosi in testa alla corsa per un IPO. Anche l'UE vuole assicurarsi l'accesso alla tecnologia, mentre il dibattito su una frenata globale dell'IA prende slancio.

La pressione per condurre tali dibattiti non è casuale. In una delle statistiche citate nel post sul blog, Anthropic afferma che a maggio oltre l'80% del codice nella propria base di codice è stato generato dal proprio sistema di IA Claude. Nel febbraio 2025, questa percentuale era ancora a una cifra bassa. Secondo quanto riferito, gli sviluppatori hanno consegnato in media otto volte più codice per trimestre rispetto al periodo 2021-2025.

Codice di Claude, Mythos e una lettera aperta

Contemporaneamente, Anthropic riferisce che la frequenza con cui i dipendenti devono correggere l'output di Claude o intervenire manualmente è diminuita costantemente, anche per compiti aperti senza specifiche chiare. Molti dipendenti valutavano ancora la qualità del codice scritto da Claude alla fine del 2025 come inferiore al codice umano; ora lo considerano equivalente. "Ci aspettiamo che migliorerà nel corso dell'anno", scrive Anthropic in riferimento alla qualità del codice.

Quali saranno le ripercussioni di una pausa globale è attualmente incerto. Già nel marzo 2023, oltre 1.000 persone provenienti dalla ricerca e dall'industria avevano chiesto in una lettera aperta una pausa obbligatoria nello sviluppo dei modelli di IA più potenti, tra cui Elon Musk. Poco dopo, si è saputo che Musk stava contemporaneamente portando avanti la fondazione della propria azienda di IA. L'appello di allora simboleggia il campo di tensione in cui si muove anche Anthropic: tra avvertimenti sui rischi e il proprio interesse commerciale a una posizione di leadership nel settore.

Il caso di Claude Mythos Preview dimostra che la ricerca sull'IA non è solo teoria. Con questo software, Anthropic ha scoperto, secondo quanto riferito, vulnerabilità di sicurezza in vari programmi che erano rimaste inosservate per decenni. Al momento del lancio, l'accesso era inizialmente limitato a un piccolo gruppo di aziende e autorità statunitensi, poiché, secondo Anthropic, il sistema era "troppo bravo" a trovare vulnerabilità per renderlo disponibile a tutti. Ora anche le istituzioni europee possono accedere a Mythos; Anthropic presenterà un rapporto sulle vulnerabilità trovate alla fine di giugno.

Cosa succederà dopo

La discussione sull'auto-miglioramento acquista ulteriore peso in questo contesto. Sam Altman, CEO del rivale OpenAI, aveva recentemente ammesso di aver esagerato nelle precedenti previsioni sulla sostituzione del lavoro umano da parte dell'IA. Mentre il settore si corregge in parte nelle sue dichiarazioni sul ritmo, Anthropic ora chiede un approccio più lento e coordinato per le capacità veramente di vasta portata. Se ciò si trasformerà in un meccanismo internazionale vincolante, dipenderà principalmente dalla volontà politica delle principali nazioni dell'IA, secondo l'azienda.

Il post sul blog è stato riportato, tra gli altri, dal Deutschlandfunk il 5 giugno 2026 e da Reuters lo stesso giorno.