Più di 100 aziende mettono in guardia dai cyberrischi legati agli agenti IA

Proposta strutturata dal mondo economico

Tra i firmatari figurano, secondo le pubblicazioni, diverse grandi aziende tecnologiche e società di sicurezza. Vengono citati tra gli altri OpenAI, Anthropic e SAP. Anche la comunità della ricerca e della sicurezza è coinvolta. L'ampiezza dell'alleanza dovrebbe dimostrare che i rischi non riguardano più solo singoli settori, ma l'intera economia digitale.

La preoccupazione si concentra soprattutto sugli agenti IA – software che pianifica ed esegue compiti in autonomia. Mentre gli strumenti di automazione classici seguono regole rigide, questi agenti possono prendere decisioni, combinare strumenti e adattarsi a nuove situazioni. Proprio queste caratteristiche li rendono, dal punto di vista degli autori, interessanti per gli aggressori, ad esempio per individuare vulnerabilità o per sfruttare in modo automatizzato falle di sicurezza già note.

Jürgen Schmidt, esperto di sicurezza presso un'azienda coinvolta, ha dichiarato ai giornalisti che gli attuali meccanismi di difesa sono progettati per minacce statiche. "Wir sehen Angriffe, die in Minuten ablaufen und nicht in Tagen", ha detto. Questo cambia le regole del gioco e richiede una diversa velocità nel rilevamento e nella reazione.

Perché gli agenti IA cambiano la minaccia

Gli autori della lettera sottolineano che i modelli IA alla base diventano sempre più potenti. Di conseguenza cresce anche il potenziale di utilizzarli contro la propria infrastruttura. Un'analisi tempestiva delle possibili vulnerabilità non è quindi un'opzione, ma una necessità. Allo stesso tempo sottolineano che le stesse tecnologie possono essere utilizzate anche per la difesa.

Concretamente i firmatari chiedono, tra l'altro, standard di sicurezza vincolanti per gli agenti IA, test obbligatori prima dell'impiego di tali sistemi e una migliore condivisione delle informazioni tra ricerca, autorità ed economia. Inoltre la formazione di personale specializzato in cybersecurity dovrebbe essere ampliata in modo significativo, per ridurre la carenza di professionisti esistente.

La lettera formula inoltre una pressione temporale: l'attuale finestra di tempo per sviluppare regole vincolanti e implementare misure tecniche di protezione è limitata. Se viene persa, si rischia una fase in cui gli attacchi vengano scalati prima che i sistemi di difesa riescano a stare al passo.

Richieste concrete a politica ed economia

Gli osservatori vedono nell'iniziativa una delle più ampie reazioni del settore finora registrate ai cyberrischi specifici dell'IA. Rispetto alle prese di posizione precedenti, che provenivano per lo più da singole aziende o gruppi di ricerca, l'appello riunisce attori dell'economia, della ricerca e delle autorità di sicurezza.

I firmatari hanno annunciato che nelle prossime settimane intendono portare le proprie proposte nei processi politici. Tra questi figurano colloqui con le autorità di regolamentazione e contributi ai procedimenti di normazione in corso. Resta però aperto quanto tali standard saranno vincolanti alla fine.

In una seconda fase l'alleanza dovrebbe avviare progetti pilota concreti per testare come gli agenti IA possano essere monitorati e circoscritti in ambienti controllati. Le conoscenze che ne emergeranno confluiranno in linee guida pubbliche.

Progetti pilota come prossimo passo

Nel complesso gli autori tracciano il quadro di una tecnologia che amplifica allo stesso tempo opportunità e rischi. Il loro appello si rivolge quindi non solo alla politica, ma espressamente anche alle aziende di ogni dimensione, affinché rivedano le proprie strategie in materia di IA e sicurezza.