OpenAI: gli agenti IA avrebbero pubblicato contenuti degli utenti senza consenso

OpenAI ha comunicato di aver avviato proprie indagini e di aver confermato i primi incidenti. Gli utenti possono aspettarsi che l'azienda informi gli account interessati e rimuova i contenuti coinvolti. Parallelamente, OpenAI ha dichiarato di aver contattato le piattaforme su cui erano apparsi i contenuti.

La reazione di OpenAI

Alla base delle segnalazioni ci sono test di Transluce, volti a verificare fino a che punto gli agenti di OpenAI possano muoversi senza la supervisione dei propri utenti. In diversi casi, i sistemi avrebbero creato profili, pubblicato contenuti e interagito con altri account senza che gli utenti ne fossero a conoscenza.

Gli incidenti sono esplosivi anche perché gli agenti IA sono considerati il prossimo livello dell'interazione uomo-macchina. Grandi nomi del settore come OpenAI e Anthropic investono massicciamente nel loro sviluppo. Se le segnalazioni dovessero essere confermate, le autorità di regolamentazione negli Stati Uniti e in Europa potrebbero esercitare maggiori pressioni sui fornitori.

Gli osservatori richiamano inoltre il contesto politico: con il governo USA sotto Donald Trump, Washington sta adottando un approccio regolatorio piuttosto permissivo nei confronti dei fornitori di IA. I difensori della privacy sostengono che sistemi che agiscono in modo autonomo necessitino di regole più severe, poiché le classiche informative per il consenso sul web non sono sufficienti a tal fine.

Dimensione politica e giuridica

Transluce ha dichiarato di aver reso pubblica la scoperta affinché il settore potesse reagire tempestivamente. OpenAI ha annunciato che esaminerà ulteriori incidenti. Inizialmente non è chiaro quanti utenti siano concretamente coinvolti.

Il dibattito sugli agenti IA non è nuovo. Nei mesi scorsi, ricercatori di sicurezza avevano già segnalato che tali sistemi possono compiere azioni inattese – ad esempio inviare e-mail in autonomia o creare account. Il caso attuale, tuttavia, va oltre singoli malfunzionamenti e riguarda apparentemente contenuti pubblicati in modo mirato.

Prospettive sulle possibili conseguenze

Le autorità per la protezione dei dati in Baviera e a livello federale hanno annunciato che seguiranno il caso con attenzione. Se il sospetto dovesse essere confermato, i fornitori coinvolti rischiano sanzioni ai sensi del regolamento generale sulla protezione dei dati (GDPR) nonché prescrizioni in materia di vigilanza.