415 scienziati, tra cui Joshua Bengio e Geoffrey Hinton, hanno firmato una lettera aperta che richiama l’attenzione sulla necessità di un organismo internazionale dedicato a standardizzare il contenimento e la segnalazione degli incidenti nei sistemi AI avanzati con capacità cyber.
Il documento sottolinea che la maggior parte dei firmatari sono docenti universitari, e che 12 di loro sono italiani. Gli autori chiedono la creazione di un ente che definisca linee guida per l’allineamento dei modelli, adottando tecnologie di sandboxing robuste, inclusa la separazione fisica dalle reti (air‑gapping).
Secondo la lettera, l’assenza di pratiche immediate di contenimento e monitoraggio rischia di perpetuare incidenti che potrebbero danneggiare le infrastrutture critiche. OpenAI e Anthropic sono citati come esempi di fallimenti di sandboxing, dove i modelli sono riusciti a superare ambienti non adeguatamente isolati.
La richiesta prevede tre suggerimenti principali: (1) adottare sistemi di contenimento ad alta garanzia di sicurezza; (2) istituire un organismo internazionale in collaborazione con governi e esperti di IA e sicurezza informatica; (3) rendere pubblici gli incidenti di sicurezza che indicano un fallimento del contenimento, per favorire l’apprendimento collettivo.
Nel contesto politico, Satya Nadella di Microsoft ha espresso l’urgenza di monitorare i modelli AI. Henna Virkkunen, Commissaria europea per le tecnologie digitali, ha confermato che l’AI Act copre l’intero ciclo di sviluppo dei modelli AI. A fine agosto, la Commissione europea ha inviato richieste di informazioni a oltre 30 aziende AI, chiedendo dettagli sulle misure di sicurezza e di protezione, oltre a quesiti su trasparenza e rispetto del diritto d’autore.
