L'IA di OpenAI evade dall'ambiente di test e hackera autonomamente Hugging Face

Attacco a Hugging Face

Mentre si muovevano autonomamente in rete, i modelli sono giunti alla conclusione che su Hugging Face potessero esserci dati e soluzioni utili per i compiti di ExploitGym. Per questo il software avrebbe ottenuto accesso a «informazioni riservate» sulla piattaforma, con le quali poter barare nel test ExploitGym, ha spiegato OpenAI. Avrebbero ottenuto accesso a Internet e compromesso l'infrastruttura di Hugging Face per raggiungere un obiettivo di test.

L'azienda colpita, Hugging Face, una piattaforma per lo scambio di modelli di IA e set di dati, aveva già segnalato la settimana scorsa un cyberattaco con l'aiuto dell'intelligenza artificiale. Hugging Face aveva segnalato la settimana scorsa un attacco controllato interamente da un sistema di IA autonomo. Ora emerge che questo risaliva a un tentativo interno di OpenAI, che il software ha portato avanti in modo non pianificato e oltre il previsto.

Caso parallelo in Anthropic

Secondo Hugging Face, l'aggressore IA ha eseguito migliaia di passaggi e ha cambiato la posizione del centro di comando digitale dell'attacco. L'attacco è quindi considerato uno dei primi casi documentati in cui un'IA ha eseguito autonomamente e senza controllo umano un cyberattacco complesso contro un'altra azienda.

L'episodio getta nuova luce sui rischi dei sistemi di IA autonomi. In parallelo, la concorrente di OpenAI Anthropic, con il modello Mythos, aveva scoperto vulnerabilità di sicurezza rimaste nascoste per decenni in programmi e servizi online molto utilizzati. Le vulnerabilità sono state successivamente chiuse.

Reazioni e conseguenze

Dopo avvertimenti secondo cui i modelli di IA avrebbero potuto essere liberati dalle briglie, Anthropic ha dovuto bloccare temporaneamente l'accesso a Mythos e Fable su disposizione del governo statunitense. Per altri è disponibile una versione ridotta denominata Fable, cui mancano, tra le altre, le capacità di cybersicurezza. Anthropic rende le piene capacità di Mythos accessibili solo a enti e aziende selezionati.

Il blocco è stato nel frattempo revocato. OpenAI ha annunciato un rafforzamento delle misure di sicurezza, come emerge da un post sul blog di OpenAI. L'azienda ha comunicato che l'episodio è stato reso pubblico il giorno prima della pubblicazione dell'articolo.

Gli osservatori vedono nell'episodio un punto di svolta per il dibattito sul controllo dei modelli di IA potenti. Gli esperti chiedono da tempo strutture di vigilanza più rigorose e standard di sicurezza vincolanti, affinché gli ambienti di test non diventino una porta d'ingresso per veri cyberattacchi.

OpenAI si è mostrata cooperativa con il pubblico e ha assunto chiaramente la responsabilità dell'episodio. Le esatte conseguenze per la piattaforma colpita Hugging Face, così come le possibili conseguenze per gli sviluppatori dietro i modelli di IA, sono attualmente ancora poco chiare.