OpenAI ha introdotto diverse protezioni per i minori che utilizzano ChatGPT, fra cui una versione del chatbot dedicata agli adolescenti. L’azienda californiana ha inoltre annunciato un nuovo strumento per individuare i CSAM (Child Sexual Abuse Material), materiali di abuso sessuale su minori, compresi quelli prodotti mediante l’intelligenza artificiale. Quando gli utenti inseriscono richieste vietate, il sistema interrompe la generazione e mostra un avviso.
Approfondisci: OpenAI rilascia un nuovo classificatore di immagini e avvisi in ChatGPT contro il CSAM
Il nuovo classificatore di immagini è in grado di segnalare potenziali CSAM, contemplando anche il materiale generato dall’AI. Attraverso l’analisi di indizi visivi di abuso, lo strumento contribuisce a individuare immagini nuove. I risultati vengono espressi in punteggi: questi consentono ai revisori di stabilire quali immagini meritano una valutazione prioritaria.
L’accesso al classificatore è gratuito tramite API OpenAI per le organizzazioni che hanno superato le verifiche, con l’obiettivo di rendere il rilevamento dei CSAM più diffuso nel settore. “In base ai test effettuati, il tool ha rilevato un numero maggiore di immagini rispetto ad altri strumenti, riducendo del 48% il numero di falsi positivi.”
OpenAI vieta la generazione di immagini sessuali con minori e addestra i propri modelli affinché rifiutino tali richieste. Se un utente presenta un prompt vietato, compare un avviso che blocca la generazione e spiega che si tratta di un reato penale. Le conversazioni contenenti richieste di produrre CSAM verranno cancellate. Sono previste la sospensione dell’account e, in caso di violazioni ripetute, la sua chiusura permanente.
Secondo OpenAI, ogni singola azienda deve evitare che la propria tecnologia venga impiegata per danneggiare i minori. “Il coordinamento tra numerose organizzazioni, le organizzazioni dedicate alla sicurezza dei minori e le forze dell’ordine è necessario per bloccare i predatori sessuali.” Per arrestare questi comportamenti occorrono quindi una collaborazione con l’intero settore, il lavoro delle organizzazioni preposte alla tutela dei minori e l’intervento delle forze dell’ordine.