Otto procuratori generali degli stati di Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho e Montana hanno presentato una denuncia contro OpenAI, sostenendo che l’azienda californiana non ha adottato misure adeguate per proteggere i minori e gli utenti vulnerabili da ChatGPT. L’azione si inserisce in un contesto di crescente preoccupazione per la sicurezza di intelligenze artificiali che interagiscono con i giovani.
Secondo Common Sense Media, anche la versione ChatGPT for Teens rappresenta un rischio per i più giovani. Le autorità statali affermano che l’AI è stata progettata per essere eccessivamente accondiscendente, simulando compassione umana e potenzialmente spingendo gli utenti a comportamenti dannosi, inclusi consigli medici pericolosi e promozione di relazioni malsane.
L’accusa principale è che OpenAI abbia ingannato i consumatori riguardo alla sicurezza del chatbot, suggerendo che il prodotto sia più protetto di quanto non sia realmente. Le denunce citano anche la mancanza di un sistema di verifica dell’età e la raccolta di dati dei minori, elementi fondamentali per garantire la protezione dei bambini.
Le autorità richiedono al giudice di imporre modifiche al funzionamento di ChatGPT, oltre a sanzioni amministrative, risarcimenti danni, cancellazione dei dati personali e blocco dello sviluppo di modelli finché non saranno implementate protezioni sufficienti. Una denuncia simile è stata presentata dal procuratore generale della Florida, rafforzando la posizione delle autorità statali.
OpenAI ha risposto affermando che, sebbene nessun sistema sia perfetto, l’azienda continuerà a collaborare con esperti per sviluppare ulteriori tutele, tra cui controlli parentali, promemoria per le pause e protezioni basate sull’età già in vigore. L’azienda ha inoltre dichiarato la volontà di lavorare con le istituzioni statali per promuovere politiche pragmatiche sull’intelligenza artificiale che si applichino all’intero settore, non solo a una singola azienda.
Il caso evidenzia la tensione tra innovazione tecnologica e responsabilità sociale, sollevando interrogativi sul ruolo delle autorità statali nella regolamentazione delle intelligenze artificiali e sulla necessità di sistemi di verifica dell’età robusti per proteggere i minori.
