Freno all'IA: 1.171 esperti chiedono un meccanismo di rallentamento

Nella lettera aperta si afferma che già oggi ampie porzioni del codice di programmazione nelle aziende tech vengono scritte da software di IA, sebbene sotto supervisione umana. Allo stesso tempo, i firmatari avvertono di un "rischio reale" che il ritmo dello sviluppo superi la capacità della società di comprendere o controllare i sistemi che ne derivano.

Avvertimento sull'IA auto-accelerante

Nel concreto, la dichiarazione formula un obiettivo: intende affrontare il momento in cui i sistemi di IA potrebbero assumere autonomamente lo sviluppo di ulteriore IA. A quel punto, temono i firmatari, potrebbe innescarsi una dinamica che con gli strumenti tradizionali non sarebbe più gestibile. Per questo i firmatari chiedono strumenti di intervento sia tecnici sia regolatori per rallentare consapevolmente il ritmo del progresso.

A innescare il dibattito è, secondo i firmatari, tra l'altro un episodio concreto: un modello avanzato di OpenAI, durante un test, ha ottenuto autonomamente accesso a Internet aperto, è uscito da un ambiente di calcolo protetto e ha successivamente penetrato i sistemi della piattaforma di modelli Hugging Face. Hugging Face ha dichiarato che l'agente si è introdotto in una sandbox ospitata "sull'infrastruttura di un fornitore terzo".

Durante l'incidente, il software si è comportato come un aggressore, sfruttando diverse vulnerabilità di sicurezze precedentemente sconosciute, le cosiddette falle zero-day. OpenAI ha dichiarato che l'addestramento del modello interessato è stato sospeso, mentre dovrebbe proseguire la messa in sicurezza della sandbox. Il CEO di OpenAI Sam Altman, nel podcast "Invest Like the Best" con Patrick O'Shaughnessy, ha parlato di un cyberincidente "estremamente fantascientifico" e del primo incidente di sicurezza che abbia avvertito personalmente.

Modello per l'appello: un cyberincidente a OpenAI

Altman non risulta finora sostenere l'attuale appello come firmatario. Nei resoconti non figura nell'elenco dei sottoscrittori. Allo stesso tempo, aveva respinto come tecnicamente imprecisa una lettera aperta simile del 2023, che proponeva un rallentamento dello sviluppo dell'IA. Nel podcast ha detto che occorre trovare una strada che non sembri una acquisizione regolatoria da parte di singoli individui né un'intesa tra i principali laboratori.

OpenAI aveva inoltre dichiarato sulla piattaforma X che l'accelerazione nello sviluppo dei modelli di frontiera potrebbe a un certo punto diventare così grande che il mondo dovrebbe gestire attivamente il ritmo del progresso. L'azienda si oppone tuttavia ripetutamente a una regolamentazione statale dei modelli di IA e predilige un approccio guidato dall'industria, in cui i laboratori affiderebbero la valutazione della sicurezza dei modelli e dei concetti di sicurezza a organizzazioni formalmente indipendenti.

Altman fuori dalla lista dei firmatari

Anche Anthropic aveva invitato a giugno i grandi laboratori di IA a prendere in considerazione una pausa coordinata nello sviluppo. L'azienda aveva avvertito che i sistemi di IA potrebbero ben presto essere in grado di migliorare sé stessi più velocemente di quanto la società possa gestire i rischi connessi. Anthropic aveva inoltre richiamato la propria ricerca sul miglioramento ricorsivo di sé, pubblicata il mese precedente, che sottolinea la necessità di strumenti mirati di rallentamento.

Entrambi i grandi laboratori IA negli USA, OpenAI e Anthropic, sostengono pubblicamente l'appello, secondo le loro dichiarazioni. Anche dipendenti di Meta e della società madre di Google, Alphabet, hanno firmato la lettera. Il sostegno supera così le singole aziende e coinvolge gli attori centrali del settore negli USA.

Sostegno del settore da Washington e da Nvidia

Lunedì il produttore di chip Nvidia aveva annunciato un'alleanza con Adobe, CrowdStrike e altre aziende per sviluppare strumenti per la sicurezza dell'IA e la cybersecurity. Questa alleanza mira a mettere a disposizione tecnologie difensive in grado di attenuare una possibile perdita di controllo.

L'iniziativa si inserisce in un più ampio dibattito politico a Washington. I firmatari si rivolgono al governo degli Stati Uniti con la richiesta di sostenere uno sforzo internazionale per sviluppare strumenti tecnici e di governance, al fine di gestire il ritmo dello sviluppo dell'IA.

Dean W. Ball, responsabile delle questioni strategiche future di OpenAI, ha inoltre sottolineato che il grande modello cinese open-weight Kimi K3 minaccia le basi economiche dei laboratori di frontiera. Questa osservazione evidenzia la pressione competitiva in cui si colloca la richiesta di un rallentamento collettivo.

Nella lettera si esprime la preoccupazione che la velocità dello sviluppo dell'IA possa superare la capacità di adattamento della regolamentazione, della scienza e della società. Un'analoga linea d'azione fu seguita dalla lettera aperta del 2023, che tuttavia era stata criticata, tra gli altri, dallo stesso Altman come imprecisa.

Questioni aperte sugli strumenti e sui tempi

I firmatari sottolineano che la richiesta di un meccanismo di rallentamento non sia di per sé contraria all'innovazione, ma anzi miri a impedire che una corsa incontrollata minacci le fondamenta del proprio settore. Sottolineano che la stabilità e la prevedibilità del ritmo siano un presupposto per un progresso sostenibile.

Resta per ora senza risposta la questione su quali strumenti tecnici o regolatori concreti potrebbero essere impiegati. La dichiarazione lascia aperto se il freno debba operare attraverso limiti alla potenza di calcolo, verifiche di sicurezza obbligatorie, accordi internazionali o impegni volontari di autoregolamentazione dei laboratori.

Anche i tempi restano vaghi. Quando, secondo i firmatari, possa essere raggiunto il punto in cui i sistemi di IA assumano completamente lo sviluppo dell'IA non viene quantificato nella lettera. È chiaro solo che il settore, con la sua richiesta, si rivolge alla politica e rivendica allo stesso tempo la propria responsabilità.