OpenAI presenta una nuova variante di ChatGPT per adolescenti e risponde al dibattito sulla protezione dei minori

Nello specifico, secondo OpenAI il nuovo prodotto è destinato a ragazze e ragazzi di età compresa tra i 13 e i 17 anni. Dovrebbe contenere filtri sui contenuti più severi nonché limitazioni su temi sensibili. Inoltre, genitori e tutori legali dovrebbero poter effettuare determinate impostazioni.

Il lancio avviene in un momento in cui l'azienda è confrontata con sfide legali. In una causa legale, a ChatGPT era stato contestato, tra l'altro, di avere un ruolo in sparatorie di massa, di incoraggiare suicidi e di rendere i minorenni dipendenti senza la supervisione dei genitori. OpenAI ha respinto le accuse, facendo riferimento alle misure di protezione esistenti.

Contesto delle cause legali

Appena la scorsa settimana, una procuratrice distrettuale del Massachusetts ha incriminato un 17enne per duplice omicidio in relazione alla morte di sua madre e di suo fratello. Il caso ha riacceso la discussione sulla responsabilità dei fornitori di IA.

Con la nuova variante di protezione per i giovani, OpenAI risponde alla pressione pubblica. Gli osservatori e le osservatrici del settore vedono nella misura un tentativo di riconquistare la fiducia delle famiglie e delle autorità di vigilanza. "OpenAI said at the time that it had 'put in place industry leading protections and policies,'" ha dichiarato l'azienda in una precedente presa di posizione.

Il prodotto verrà inizialmente distribuito negli Stati Uniti. Una data di lancio concreta per l'Europa non è ancora stata fissata secondo le indicazioni dell'azienda. Anche sulla questione di come la supervisione genitoriale verrà tecnicamente implementata, OpenAI è inizialmente rimasta sul vago. Esperte ed esperti del settore educativo chiedono un coordinamento stretto con scuole e organizzazioni per la protezione dei giovani.

Reazioni dal mondo scientifico e dalla società civile

Anche dal mondo scientifico arrivano voci che chiedono maggiore trasparenza sui dati di addestramento e sui filtri di sicurezza. Ricercatrici e ricercatori avvertono che anche i modelli adattati potrebbero generare contenuti inappropriati in situazioni di stress. Il settore sarebbe solo all'inizio dello sviluppo di standard solidi.

Le associazioni di tutela dei consumatori valutano il passo sostanzialmente positivo, ma vedono ancora necessità di chiarimenti. Ad esempio, non è chiaro come OpenAI gestisca gli utenti minorenni che forniscano dati di età falsi. Anche la questione dell'applicazione delle condizioni d'uso resta vaga.

OpenAI ha annunciato che svilupperà ulteriormente la nuova versione in modo continuo e che integrerà il feedback di genitori, insegnanti e giovani. L'azienda ha sottolineato di voler creare un quadro sicuro per l'uso dell'IA nel settore educativo.

Prospettive su regolamentazione e controllo

I prossimi mesi sono considerati decisivi: le autorità di vigilanza in diversi stati degli USA stanno attualmente esaminando se siano necessarie ulteriori regolamentazioni per i chatbot IA. Anche a Bruxelles sono in corso iniziative analoghe nel quadro del Digital Services Act.

Nel frattempo, Sam Altman ha sottolineato in comunicazioni interne che la protezione dei minorenni è la massima priorità. Le reazioni della politica e della società civile alla nuova versione per adolescenti saranno determinanti per stabilire se l'azienda potrà uscire rafforzata dalla crisi.

Al momento resta da vedere in che misura le misure di protezione annunciate saranno effettivamente efficaci. Verifiche indipendenti da parte di organizzazioni per la protezione dei giovani non sono ancora state effettuate, secondo quanto dichiarato da OpenAI.