Anthropic ha presentato a Capitol Hill una bozza di legge sulla sicurezza dell’intelligenza artificiale. La proposta si fonda sul documento Advanced AI Framework pubblicato a metà giugno 2026 e prevede la valutazione indipendente da parte di organizzazioni esterne, in particolare METR.
La normativa consente al governo di bloccare il rilascio o l’uso di un modello AI solo se il rischio è prevedibile e imminente, con danni superiori a un miliardo di dollari o con morte o lesioni gravi per oltre 50 persone. Tale rischio deve derivare da una arma biologica, dall’elusione dei controlli da parte del modello o da un attacco informatico.
Negli ultimi mesi sono emersi diversi incidenti causati da agenti AI fuori controllo, ma nessuno ha provocato morti o danni superiori a un miliardo di dollari, rendendo la proposta quasi inutile in pratica.
I valutatori indipendenti, registrati presso il Dipartimento del Commercio, esamineranno periodicamente i modelli AI. Possono essere retribuiti dall’azienda, purché il pagamento non dipenda dai risultati delle valutazioni. Se il rischio è imminente, devono segnalare il Dipartimento entro 72 ore; quest’ultimo può chiedere a un giudice di bloccare il rilascio del modello.
La proposta richiede inoltre alle aziende AI di creare quadri di riferimento per la sicurezza, pubblicare rapporti di trasparenza sui nuovi modelli avanzati, tutelare chi segnala irregolarità (whistleblower) e comunicare al Dipartimento del Commercio eventuali incidenti critici legati alla sicurezza.
