Anthropic chiede una pausa globale nello sviluppo di IA all'avanguardia

Prerequisiti per una pausa efficace

Inoltre, per una pausa coordinata di questo tipo sarebbero necessarie regole vincolanti. A tal fine, dovrebbero essere stabilite e rispettate regole "che sarebbero verificabili per tutti", ha aggiunto Anthropic. L'azienda ha sottolineato che gli impegni volontari di singole aziende non sarebbero sufficienti da soli.

Anthropic è un'azienda statunitense con sede a San Francisco specializzata in intelligenza artificiale. L'azienda è nota soprattutto per il suo chatbot Claude, utilizzato prevalentemente dalle aziende. Lunedì, Anthropic ha anche presentato documenti per un'offerta pubblica iniziale (IPO).

Mythos – Strumento di sicurezza a doppia natura

Parallelamente alla richiesta di una pausa globale, Anthropic sta lavorando a un modello di IA chiamato Mythos. Questo sistema è progettato per individuare vulnerabilità nei sistemi informatici. Sia le autorità statunitensi che l'UE hanno segnalato interesse per un accesso di prova al fine di valutare i potenziali rischi.

Tuttavia, questi piani sollevano anche preoccupazioni. Le agenzie di intelligence tedesche e i politici della sicurezza hanno avvertito che criminali o attori statali potrebbero abusare di Mythos per attacchi informatici. La doppia utilizzazione di tali strumenti di sicurezza – da un lato per la difesa, dall'altro come potenziale arma – è al centro del dibattito.

Conflitto con il Pentagono

Inoltre, Anthropic è attualmente coinvolta in una disputa legale con il Dipartimento della Difesa degli Stati Uniti. Il motivo è il rifiuto dell'azienda di consentire un uso militare illimitato della sua tecnologia IA. Anthropic ha dichiarato di non voler consentire l'uso dell'IA per la "sorveglianza di massa interna" o in sistemi d'arma completamente autonomi.

Il Pentagono considera ora Anthropic un rischio per la sicurezza della catena di approvvigionamento, una classificazione che l'azienda sta contestando legalmente. Ciò rende il gruppo una delle poche aziende di IA che si oppongono apertamente all'uso militare completo della propria tecnologia e che portano questo conflitto in tribunale.

Inquadramento politico

Con la richiesta di una pausa globale, Anthropic si posiziona contemporaneamente come un ammonitore in un dibattito che da mesi si svolge tra gruppi tecnologici, governi e agenzie di sicurezza. Se l'idea di un rallentamento coordinato abbia possibilità politiche è attualmente aperta. L'iniziativa è considerata insolita dagli osservatori, poiché l'azienda stessa sta lavorando a un modello ad alte prestazioni con Mythos e allo stesso tempo persegue un'IPO.

Nel complesso, la dichiarazione mostra il campo di tensione in cui opera Anthropic: l'azienda sviluppa modelli di IA ad alte prestazioni, avverte contemporaneamente della loro diffusione incontrollata e si trova in un conflitto di principi con il Pentagono sull'uso militare. La richiesta di una pausa coordinata a livello internazionale potrebbe aumentare la pressione su altri gruppi di IA e sui governi negli Stati Uniti, in Cina e nell'UE affinché si impegnino in auto-limitazioni simili.