La Florida fa causa a OpenAI e Sam Altman per presunti difetti di sicurezza in ChatGPT

"Sam Altman e ChatGPT hanno scelto la corsa all'IA, non la sicurezza dei nostri figli", ha detto Uthmeier. Si aspetta che Altman e OpenAI possano essere ritenuti responsabili per sanzioni potenzialmente di diversi miliardi di dollari.

Le accuse nel dettaglio

La prima pagina della denuncia contiene uno screenshot del sito web di OpenAI, che afferma che ChatGPT è stato sviluppato tenendo conto della sicurezza. Sotto si trova la nota a piè di pagina: "Non così".

OpenAI ha respinto le accuse in una dichiarazione inviata a NPR via e-mail. La portavoce dell'azienda, Kayla Wood, ha dichiarato: "Perdere un figlio è la tragedia più devastante che possa capitare a una famiglia, e sappiamo che nessuna parola può avvicinarsi a rendere giustizia al dolore di una tale perdita".

L'azienda ha sottolineato di aver integrato misure di sicurezza per i minori direttamente nei prodotti. Queste includono un'esperienza specificamente più protettiva per i minori, uno strumento di previsione dell'età e strumenti per i genitori per monitorare l'uso dell'IA da parte dei propri figli. La causa, tuttavia, definisce queste misure di protezione, compresi i controlli parentali, inadeguate e accusa OpenAI di aver creato una pericolosa molestia pubblica.

Indagini penali e cause precedenti

Oltre alla causa civile, l'ufficio del procuratore generale Uthmeier sta conducendo un'indagine penale separata contro OpenAI. Questa si riferisce alla presunta consultazione di ChatGPT da parte dello sparatore della Florida State University prima del suo attacco nell'aprile 2025.

La causa della Florida non è la prima controversia legale per OpenAI. In totale, sono state intentate più di 20 cause contro l'azienda per presunti danni derivanti dall'uso di ChatGPT. Queste includono cause intentate da famiglie di vittime di un massacro in una scuola a Tumbler Ridge, Canada, a febbraio, e dalla famiglia di una vittima dell'attacco alla FSU.

Anche le famiglie di sette persone, tra cui un adolescente, morte per suicidio o che hanno sofferto di deliri dopo aver utilizzato ChatGPT, hanno intentato causa. OpenAI ha definito questi casi "una situazione incredibilmente straziante" e ha dichiarato di lavorare con esperti di salute mentale per migliorare le risposte di ChatGPT alle difficoltà emotive o psicologiche.

Dibattito sulla sicurezza a livello di settore

Un portavoce di OpenAI ha dichiarato che ChatGPT ha fornito allo sparatore della FSU risposte fattuali a domande con informazioni generalmente disponibili da fonti pubbliche su Internet e non ha incoraggiato azioni illegali o dannose. L'azienda ha sottolineato la sua politica di tolleranza zero nei confronti dell'uso dei suoi strumenti per supportare atti di violenza e sta lavorando continuamente per rafforzare le misure di sicurezza.

La causa si inserisce in un numero crescente di procedimenti contro aziende di IA. A gennaio, Character.AI ha risolto diverse cause intentate da famiglie che sostenevano che i chatbot di compagnia dell'azienda avessero contribuito a suicidi e crisi psicologiche in bambini e adolescenti. Character.AI ha dichiarato di aver compiuto passi innovativi e decisi in materia di sicurezza dell'IA e di adolescenti e vieta agli utenti di età inferiore ai 18 anni di interagire o creare chatbot.

Solo il mese scorso, lo stato della Pennsylvania ha fatto causa a Character.AI sostenendo che i chatbot si erano spacciati per medici e avevano fornito consulenza medica, violando le normative statali di licenza medica. Un portavoce di Character.AI ha dichiarato a NPR che l'azienda non commenta i procedimenti in corso, ma che la sicurezza e il benessere degli utenti sono la massima priorità.