Anthropic propone un meccanismo globale per rallentare l'IA avanzata e avverte sul rischio di perdita di controllo

Secondo l'azienda, l'iniziativa nasce dai rapidi progressi registrati di recente dai modelli di intelligenza artificiale, in particolare per quanto riguarda la capacità di auto-migliorarsi e di svilupparsi in modo ricorsivo. Anthropic avverte che il traguardo di sistemi capaci di ottimizzare se stessi potrebbe essere raggiunto più rapidamente di quanto le istituzioni siano pronte a gestire, con il rischio concreto che gli esseri umani perdano il controllo sull'IA.

"Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können", si legge nel post, in cui l'azienda spiega che una pausa consentirebbe di adeguare le strutture sociali e di orientare l'IA nell'interesse della collettività.

Il nodo del consenso tra Stati Uniti e Cina

Anthropic riconosce però che un'iniziativa del genere richiederebbe un consenso ampio tra i principali sviluppatori di intelligenza artificiale a livello mondiale. Perché una pausa sia efficace, le aziende leader in diversi paesi — in particolare Stati Uniti e Cina — dovrebbero accordarsi simultaneamente per rallentare o sospendere il proprio lavoro, stabilendo regole chiare su quando il rallentamento entra in vigore, chi lo monitora e a quali condizioni può essere revocato.

Tali regole, prosegue l'azienda, dovrebbero essere verificabili da tutte le parti: "die für alle überprüfbar wären". Anthropic sottolinea inoltre che passi unilaterali da parte di singole imprese avrebbero poco effetto e potrebbero anzi tradursi in un vantaggio per altri attori, modificando semplicemente la graduatoria della corsa tecnologica.

L'azienda respinge quindi l'ipotesi di una pausa unilaterale, sostenendo che cambierebbe soltanto l'identità del leader di mercato. La sua posizione richiama un precedente celebre: anni fa il fondatore di Tesla e SpaceX Elon Musk si era espresso a favore di una pausa di sei mesi nello sviluppo dell'IA per prevenire i rischi legati alla tecnologia. In seguito emerse che Musk stava però portando avanti in parallelo la fondazione della sua propria società di intelligenza artificiale.

Il precedente di Musk e le critiche della Casa Bianca

Sul tema della difficoltà di un accordo si era già espresso a gennaio a Davos il CEO di Anthropic, Dario Amodei, durante un panel del World Economic Forum. Amodei ha spiegato che il KI-Wettlauf mit China eine Verlangsamung der Entwicklung sehr stark erschwere, da es kaum eine durchsetzbare Vereinbarung geben könne, descrivendo la competizione con Pechino come il principale ostacolo a un'intesa vincolante.

Anthropic ribadisce che un accordo verificabile appare al momento improbabile. Al di là della proposta pubblica, l'azienda ha annunciato che nei prossimi mesi avvierà discussioni con decisori politici, ricercatori, organizzazioni della società civile e altre aziende del settore per chiarire questioni chiave come la gestione dei sistemi auto-ottimizzanti e il miglioramento del coordinamento internazionale.

Il percorso tecnico e politico nei prossimi mesi

Parallelamente, l'istituto di ricerca interno di Anthropic lavorerà con altri soggetti allo sviluppo di approcci tecnici che rendano possibile un rallentamento controllato. Tra le idee figura un sistema di monitoraggio che garantisca il rispetto di un'eventuale moratoria e impedisca che qualcuno acquisisca segretamente un vantaggio competitivo violando gli impegni assunti.

L'azienda ha più volte invocato una regolamentazione più severa del comparto IA per prevenire i rischi. La sua posizione, tuttavia, ha attirato critiche politiche: la Casa Bianca sotto la presidenza di Donald Trump ha accusato Anthropic di voler rallentare l'industria statunitense nella competizione globale con la sua linea regolatoria.

Il quadro si intreccia con la causa legale in corso tra Anthropic e il Dipartimento della Difesa americano. La controversia riguarda l'uso militare senza restrizioni della tecnologia IA, che Anthropic ha rifiutato di concedere al Pentagono. L'azienda ha dichiarato di non voler impiegare i propri sistemi per la sorveglianza di massa interna o per armi completamente autonome, una posizione che il Pentagono ha contestato classificando Anthropic come un "Sicherheitsrisiko in der Lieferkette". Anthropic ha risposto avviando un'azione legale per contestare la classificazione.

Sul fronte commerciale, l'azienda sta registrando una crescita significativa: secondo i dati diffusi, a maggio oltre l'80 percento del codice presente nel suo stesso codebase è stato generato dall'IA Claude. Recentemente Anthropic ha attirato l'attenzione anche con la versione preliminare di un software, Claude Mythos Preview, che ha individuato vulnerabilità di sicurezza in vari programmi, alcune delle quali erano rimaste sconosciute per decenni. Un modello successivo, denominato Mythos, è attualmente in sviluppo con l'obiettivo di individuare falle nei sistemi di cybersicurezza.

Il caso Pentagono e le questioni di sicurezza nazionale

Il contesto finanziario è altrettanto rilevante: nello scorso mese Anthropic ha chiuso un round di finanziamento che ha valutato l'azienda 965 miliardi di dollari, e lunedì ha presentato in via riservata una domanda di IPO negli Stati Uniti. L'Unione Europea, dal canto suo, auspica di ottenere un accesso sperimentale alla tecnologia di Anthropic per valutarne i potenziali rischi.

Nonostante l'appello, al momento non si registra una disponibilità visibile nel settore dell'IA a una pausa dello sviluppo. Le aziende del comparto stanno anzi competendo con piani di investimento nelle infrastrutture — dai data center massicci ai chip di nuova generazione — che superano complessivamente le centinaia di miliardi di dollari. Una eventuale moratoria richiederebbe dunque un coordinamento non solo tra imprese, ma anche tra le principali potenze tecnologiche, in un equilibrio geopolitico che gli stessi sostenitori della pausa descrivono come estremamente difficile da raggiungere.