Anthropic annuncia una filigrana invisibile per i testi di Claude – i critici temono false marcature

„Das US-Unternehmen Anthropic hat angekündigt, Texte seines Chatbots Claude mit einem unsichtbaren Wasserzeichen zu versehen, um den EU-Vorgaben zum Umgang mit künstlicher Intelligenz (KI) zu entsprechen“, heißt es in dem Bericht. Secondo gli esperti, il procedimento si basa su schemi statistici nella scelta delle parole, invisibili per i lettori umani ma leggibili per i programmi di verifica appositi.

Come funziona la filigrana

I critici mettono però in guardia da un effetto contrario. Poiché la filigrana interviene a livello di singole parole e formulazioni, essa può – stando a quanto riportato – colpire anche testi umani che in seguito sono stati solo in parte rielaborati da un'IA. „Benutzer, die zum Beispiel ihren selbstgeschriebenen Text zur Überarbeitung an die KI geben, werden künftig mit dem Risiko leben müssen, dass ihre Texte komplett als KI-Erzeugnis gebrandmarkt werden – auch wenn über den ganzen Text hinweg nur an einzelnen Formulierungen und Wörtern gefeilt wurde“, warnt der Bericht.

Di conseguenza, per autori e autrici, studenti e studentesse, giornalisti e giornaliste aumenta il rischio che le loro opere vengano erroneamente classificate come prodotti dell'IA – con possibili conseguenze sulla valutazione, sul diritto d'autore e sulla credibilità. Anche i flussi di lavoro redazionali in cui l'IA viene impiegata solo come supporto di revisione potrebbero essere interessati.

Reazioni dei fornitori e di Bruxelles

Anthropic fa parte di una serie di grandi fornitori che negli ultimi mesi hanno reagito alle normative UE. Oltre al gruppo statunitense, anche Microsoft e l'azienda francese Mistral hanno annunciato o già introdotto marcature analoghe. Bruxelles osserva attentamente l'attuazione e si riserva ulteriori iniziative qualora i requisiti non venissero rispettati.

La mossa arriva a un solo giorno di distanza da diverse trasmissioni che hanno riportato altre notizie da tutto il mondo, tra cui le operazioni di soccorso dopo un terremoto in Colombia, un'eruzione dell'Etna con cancellazioni di voli in Sicilia, la bonifica di bombe d'aereo a Neu-Ulm, un'iniziativa del Bundesrat della Bassa Sassonia sui personaggi dei media per bambini, le previsioni meteo dalla Baviera e altre medaglie di atleti e atlete tedeschi.

La Commissione UE sottolinea che l'obbligo di marcatura fa parte di un pacchetto complessivo per regolamentare l'IA. L'obiettivo è proteggere i consumatori e le consumatrici dall'inganno e, al contempo, non soffocare l'innovazione.

Cosa comporta la marcatura per gli utenti

Anthropic ha dichiarato che introdurrà la filigrana in modo progressivo e lavorerà contemporaneamente a procedimenti che riducano le classificazioni errate dei testi umani. Organismi di controllo indipendenti verificheranno nei prossimi mesi il tasso di affidabilità del riconoscimento.

Gli osservatori individuano nel dibattito un conflitto di fondo: da un lato i contenuti generati dall'IA devono essere riconoscibili senza dubbi, dall'altro la marcatura non deve diventare uno strumento che getta la scrittura onesta sotto sospetto generale.