Gli Stati membri dell'UE approvano il divieto dell'IA per deepfake sessualizzati

„In der EU sind KI-Anwendungen zur missbräuchlichen Erstellung sexualisierter Deepfakes künftig verboten“, si legge nel comunicato. „Das neue Verbot soll aber explizit auch auf das Erstellen von Inhalten abzielen, die sexuellen Kindesmissbrauch darstellen.“ In questo modo la norma va oltre le precedenti disposizioni penali, perché chiama a rispondere non solo gli utilizzatori, ma anche i fornitori degli strumenti digitali.

Di cosa tratta il divieto

„Das neue Verbot soll die bisherigen Regeln ergänzen, indem es neben den Nutzenden auch die Anbieter der entsprechenden digitalen Werkzeuge ins Visier nimmt“, ha spiegato la Presidenza del Consiglio. L'attuazione dovrà essere guidata dall'Ufficio per l'IA dell'UE. „Das KI-Amt der EU soll das Verbot federführend durchsetzen“, si afferma. Il passo era stato considerato una formalità dopo l'accordo con il Parlamento europeo.

In concreto, la dpa ha citato casi in cui si sono già verificati danni ingenti. „Bikini-Bilder auf X oder gefälschte Nacktbilder von Stars: Sexualisierte Deepfakes haben schon viel Schaden angerichtet.“ Nel dibattito rientrano anche registrazioni non consensuali, generate dall'IA Grok e diffuse attraverso la piattaforma X. Allo stato attuale, tuttavia, immagini in bikini non consensuali potrebbero continuare a essere consentite.

Restano espressamente esclusi dal divieto le caricature satiriche. „Satirische Karikaturen sollen also ausgenommen bleiben“, hanno dichiarato i negoziatori. Si intende così tutelare la libertà di opinione e d'arte, senza indebolire la protezione dalla violenza digitale sessualizzata.

Eccezioni e lacune aperte

Parallelamente il Consiglio ha rinviato ulteriori disposizioni della legge europea sull'IA. „An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich bereits ab August durchsetzen sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten“, ha riferito la dpa. In questo modo i fornitori di grandi sistemi di IA guadagnano poco meno di sei mesi in più di tempo, ad esempio per adempiere agli obblighi di trasparenza e documentazione.

Allo stesso tempo si intende alleggerire l'economia. „Weitere Änderungen am KI-Gesetz sollen der KI-Branche zunächst zusätzliche Pflichten ersparen und auch die Anwendung von Künstlicher Intelligenz in der Wirtschaft erleichtern“, si legge. Le associazioni di categoria avevano avvertito nei mesi scorsi dell'eccessiva burocrazia.

Ulteriori modifiche alla legge sull'IA

Inoltre vengono inaspriti gli obblighi di etichettatura. „Spätestens dann sollen die Anbieter KI-Inhalte etwa deutlich als solche kennzeichnen – generierte Bilder und Videos müssten sie also etwa mit Wasserzeichen markieren“, ha spiegato la Presidenza del Consiglio. L'obiettivo è rendere riconoscibile per le consumatrici e i consumatori quali contenuti siano stati generati automaticamente.

Attiviste e attivisti per i diritti umani e organizzazioni per la protezione dell'infanzia hanno accolto con favore il divieto degli strumenti di deepfake sessualizzati, ma hanno chiesto miglioramenti. Hanno sottolineato che le rappresentazioni non consensuali potrebbero rimanere consentite, nonostante servano spesso come porta d'ingresso alla violenza digitale. La Commissione UE ha annunciato che nei prossimi anni valuterà l'impatto della normativa.

Reazioni e prossimi passi

Con la formale approvazione degli Stati membri inizia ora la fase di attuazione. Entro dicembre 2026 le autorità nazionali dovranno adottare misure affinché possano essere comminate sanzioni e la revoca dell'accesso al mercato nei confronti dei fornitori di tali applicazioni di IA. L'Ufficio per l'IA dell'UE dovrà contemporaneamente elaborare linee guida per l'applicazione della nuova regola di divieto.

Gli osservatori interpretano la decisione come un segnale politico nella lotta contro la violenza digitale sessualizzata. La combinazione di un divieto sugli strumenti e sui fornitori, di un obbligo di etichettatura più severo e di uno spostamento degli obblighi vicini all'economia è considerata un compromesso che, da un lato, protegge le persone colpite e, dall'altro, non vuole soffocare l'innovazione.