New York ha introdotto una normativa che mette fine all’offerta di chatbot AI a bambini di età inferiore a 18 anni. La legge, firmata dalla governatrice Kathy Hochul, stabilisce che le aziende non possono fornire ai minori chatbot che fingono di essere esseri umani, che creano dipendenza emotiva, che promuovono l’autolesionismo o che intrattengono conversazioni sessualmente esplicite.
Per accedere a tali funzionalità, le imprese devono verificare l’età del utente mediante metodi diversi dal semplice controllo del documento d’identità. Una volta completata la verifica, le informazioni relative all’età vengono cancellate.
Le violazioni sono punite con multe fino a 25.000 $ per singolo caso e con la distruzione dei dati raccolti illegalmente. I residenti di New York possono denunciare violazioni tramite un portale web dedicato, mentre il procuratore generale ha il potere di intentare cause contro le aziende infrangenti.
La norma si inserisce in un contesto più ampio, in cui anche lo Stato della California ha approvato leggi simili sui chatbot. Al livello europeo, l’EU KIDS Act ha introdotto regole analoghe, e il Parlamento europeo ha proposto ulteriori misure volte a proteggere i minori dall’interazione con l’IA.
