OpenAI ha annunciato nuove protezioni per i minori che usano ChatGPT, con l’obiettivo di ridurre la diffusione di informazioni sulle armi anche in contesti apparentemente innocui.
Approfondisci: OpenAI accusata di inganno sulla sicurezza di ChatGPT in Texas
OpenAI ha ribadito che ChatGPT for Teens offre maggiori limitazioni per ridurre l’esposizione a contenuti sensibili. In particolare, le informazioni sull’uso di armi e di altri mezzi potenzialmente pericolosi saranno ora limitate anche in assenza di segnali di intenti violenti.
Il sistema di verifica dell’età è stato potenziato, valutando ulteriori segnali comportamentali durante l’utilizzo di ChatGPT. Se la tecnologia rileva un’età inferiore a 18 anni, l’utente viene automaticamente trasferito all’esperienza dedicata ai minori. In caso di errore, è possibile confermare la maggiore età tramite la procedura gestita da Persona.
I controlli parentali sono stati ampliati: i genitori riceveranno notifiche qualora l’account del figlio sia sospeso a causa di ripetute discussioni su temi violenti. Inoltre, gli account parentali collegati a quelli dei figli riceveranno avvisi di sicurezza se i revisori dell’azienda individuano un serio rischio di autolesionismo o comportamenti associati a disturbi alimentari.
OpenAI ha inoltre intensificato le restrizioni per gli utenti maggiorenni, impedendo la fornitura di istruzioni che possano aiutare a pianificare o compiere atti di violenza. In futuro, il servizio offrirà informazioni meno dettagliate su attacchi di massa passati e i loro autori, con l’obiettivo di bloccare eventuali emulazioni.
All’inizio del 2027 verrà pubblicato il primo Community Safety Report, che descriverà i metodi con cui vengono rilevati e bloccati i contenuti pericolosi.
