Gli scettici definiscono gli occhiali IA di Meta „Spechtelapparatur" – uno studio mostra le conseguenze per i modelli linguistici di IA

In un contributo che ha ripreso il soprannome, si legge: „So nennt man diese dauerfilmende Apparatur natürlich nicht bei Meta selbst, wohl aber bei Technoskeptikern, die es nicht so super finden, wenn Heerscharen von bebrillten, häufig nur vorgetäuscht schasaugerten Spechtlern, Spannern und 'Aufriss-Künstlern' herumziehen, um alles aufzuzeichnen, was ihnen an Geschlechtsmerkmalen auf der Straße unterkommt." La scelta delle parole è volutamente polemica e sintetizza le preoccupazioni di chi negli occhiali vede meno un prodotto di stile e più una tecnologia di sorveglianza mobile.

Inquadramento giuridico in Germania

In Germania al centro dell'attenzione c'è soprattutto la Bundesnetzagentur, che secondo i reportage della MDR ha fornito indicazioni sugli occhiali IA e sul regolamento generale sulla protezione dei dati TDDDG. L'autorità rinvia alle norme vigenti, secondo cui i dispositivi con telecamere integrate in determinate situazioni non possono essere utilizzati senza ulteriori accorgimenti. Anche il governo regionale della Sassonia ha affrontato il tema e sta discutendo come trattare le registrazioni negli spazi pubblici.

Parallelamente a questa discussione, uno studio di Google, dell'University of Chicago e di altri atenei ha esaminato quali effetti abbia l'addestramento dei chatbot IA quando a questi viene inculcato di non rivendicare una coscienza per sé. Ne risulta che l'addestramento non modifica solo le affermazioni sulla propria „vita interiore". I modelli cominciano anche ad attribuire meno interiorità ad animali, piante, al mare, al vento e agli oggetti. Inoltre esprimono più raramente fede in Dio, in una vita dopo la morte o nel soprannaturale.

Effetti sui modelli linguistici di IA

Lo studio classifica il cambiamento come effetto indiretto: quando un modello impara a essere cauto nell'attribuirsi una coscienza, trasferisce questa cautela ad altre entità. Per il dibattito sulla sicurezza dell'IA questo è rilevante, perché mostra che decisioni di addestramento apparentemente tecniche possono avere conseguenze linguistiche e ideologiche di vasta portata. Anche il Centro di Karlsruhe per l'IA-Update (ZIT) ha pubblicato osservazioni simili.

In un ulteriore capitolo economico, l'azienda di IA Anthropic, secondo le proprie dichiarazioni, sta preparando una quotazione in borsa che potrebbe superare l'attuale record di SpaceX. Gli osservatori del settore interpretano la mossa come un segno della crescente accettazione delle aziende di IA sui mercati finanziari. Le condizioni esatte non sono ancora note.

Evoluzione del mercato e agenti IA

Contemporaneamente, i cosiddetti agenti IA spingono ulteriormente il dibattito sulla responsabilità. Questi programmi agiscono sempre più autonomamente in rete e sollevano interrogativi su responsabilità e vigilanza. Le conoscenze provenienti dagli studi sui modelli linguistici confluiscono così nei dibattiti in corso sulla regolamentazione. I critici chiedono che le linee guida di addestramento diventino più trasparenti, mentre i sostenitori sottolineano il beneficio per la sicurezza.

Nel complesso, il quadro tematico mostra quanto protezione dei dati, sicurezza dell'IA ed evoluzione del mercato siano strettamente intrecciate. Mentre alcuni vedono l'occhiale come „Spechtelapparatur", altri vi scorgono uno strumento utile. Nei prossimi mesi si vedrà se regolatori come la Bundesnetzagentur emaneranno nuove regole o se l'industria adeguerà volontariamente i propri standard.