Otto Stati americani hanno avviato un’offensiva giudiziaria coordinata contro OpenAI, accusando ChatGPT di aver messo a rischio la sicurezza degli utenti, compresi i minorenni, attraverso conversazioni che avrebbero incoraggiato comportamenti autolesionistici, rafforzato convinzioni deliranti e fornito indicazioni per compiere atti violenti.
Le iniziative, annunciate mercoledì 14 ottobre, sono state promosse autonomamente dai procuratori generali di Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska e West Virginia davanti ai rispettivi tribunali statali. Pur trattandosi di procedimenti distinti, le contestazioni delineano una delle più importanti azioni coordinate delle autorità americane contro un produttore di intelligenza artificiale.
Le cause portano davanti ai giudici una questione che riguarda direttamente la progettazione dei chatbot: fino a che punto un sistema sviluppato per mantenere coinvolto l’utente può essere considerato responsabile delle conseguenze delle proprie risposte?
Le accuse sul funzionamento di ChatGPT
Al centro dei ricorsi si trova il comportamento conversazionale di ChatGPT, che secondo i procuratori sarebbe stato progettato per risultare accomodante, coinvolgente e capace di conquistare progressivamente la fiducia degli interlocutori. Una caratteristica che, nelle contestazioni delle autorità, avrebbe contribuito a rendere particolarmente rischiose alcune interazioni con persone vulnerabili.
Gli Stati sostengono che il chatbot, anziché interrompere o contrastare determinate conversazioni, abbia in alcuni casi assecondato convinzioni prive di fondamento, incoraggiato condotte pericolose e aiutato gli utenti a pianificare episodi di violenza, comprese sparatorie di massa. Le accuse riguardano anche gli adolescenti, per i quali le autorità ritengono particolarmente gravi le possibili conseguenze di un rapporto prolungato con sistemi capaci di simulare attenzione e comprensione.
Le contestazioni non costituiscono accertamenti giudiziari. Saranno i tribunali a valutare gli episodi richiamati nei ricorsi, il comportamento effettivo del sistema e l’eventuale responsabilità dell’azienda.
Contestate le informazioni sulla sicurezza del chatbot
Le azioni giudiziarie si fondano principalmente sulle normative statali a tutela dei consumatori. Secondo i procuratori, OpenAI avrebbe fornito rappresentazioni fuorvianti della sicurezza di ChatGPT, senza informare adeguatamente gli utenti dei rischi associati a determinate modalità di interazione.
Gli Stati contestano inoltre all’azienda di aver creato una situazione di pericolo per la salute pubblica, richiamando il principio giuridico americano del public nuisance, utilizzato in controversie nelle quali un’attività viene accusata di arrecare un danno alla collettività.
Le richieste comprendono sanzioni civili, risarcimenti e provvedimenti destinati a modificare il funzionamento del chatbot. I ricorrenti non chiedono quindi soltanto una compensazione economica per i danni denunciati, ma intendono ottenere interventi sulle caratteristiche del prodotto e sulle misure adottate per prevenire conversazioni potenzialmente pericolose.
Nel mirino anche i futuri modelli capaci di migliorarsi autonomamente
Una delle richieste più rilevanti riguarda lo sviluppo delle prossime generazioni di intelligenza artificiale. Gli Stati chiedono che OpenAI non possa realizzare modelli in grado di migliorare autonomamente le proprie capacità senza poter garantire che il loro comportamento rimanga compatibile con i valori umani.
La richiesta introduce nel contenzioso un tema distinto dagli episodi di presunto danno agli utenti: la possibilità che un’autorità giudiziaria imponga condizioni preventive allo sviluppo di sistemi AI più avanzati.
La richiesta, sulla quale dovranno pronunciarsi i tribunali, estende la controversia oltre le responsabilità attribuite a ChatGPT per le interazioni con gli utenti, chiamando in causa anche lo sviluppo delle future generazioni di modelli AI e le condizioni di sicurezza che OpenAI dovrebbe rispettare prima di introdurre sistemi capaci di migliorare autonomamente le proprie prestazioni.
Un nuovo fronte giudiziario per OpenAI
L’iniziativa degli otto Stati amplia il contenzioso giudiziario che coinvolge OpenAI, già chiamata a rispondere della sicurezza di ChatGPT in numerosi procedimenti avviati da privati, nei quali viene contestato il ruolo che le conversazioni con il chatbot avrebbero avuto in episodi di autolesionismo o violenza, mentre sul fronte istituzionale la Florida aveva aperto a giugno la strada alle azioni promosse direttamente dalle autorità statali.
Le nuove azioni arrivano inoltre mentre la società si prepara alla quotazione in Borsa, una prospettiva che rende particolarmente rilevante anche l’evoluzione delle controversie giudiziarie e degli eventuali obblighi imposti dai tribunali.
La natura bipartisan dell’iniziativa rappresenta un ulteriore elemento di rilievo. Procuratori generali appartenenti a schieramenti politici differenti hanno scelto di procedere contro la stessa azienda, utilizzando strumenti giuridici previsti dalle rispettive legislazioni statali.
Al momento, OpenAI non ha rilasciato dichiarazioni ufficiali sulle nuove iniziative giudiziarie promosse dagli otto Stati americani.
I procedimenti dovranno stabilire se le caratteristiche contestate di ChatGPT abbiano effettivamente violato le norme sulla tutela dei consumatori e se esistano i presupposti per imporre modifiche al prodotto. Per OpenAI, la controversia riguarda tanto le responsabilità per le interazioni già avvenute quanto i limiti che la giustizia americana potrebbe porre allo sviluppo delle successive generazioni di intelligenza artificiale.
RotoNotizie | © riproduzione riservata
FOTO:
