La Commissione europea ha avviato un’indagine su Anthropic e OpenAI per verificare il rispetto dell’AI Act. L’AI Office ha inviato alle due aziende una richiesta di informazioni sugli incidenti causati dai rispettivi agenti AI, supportata da un gruppo di esperti scientifici che comprende Yoshua Bengio e tre ricercatori italiani.
Meeting del 9 ottobre
Henna Virkkunen, commissaria europea per le tecnologie digitali, ha convocato il gruppo di esperti il 9 ottobre. Durante la sua presentazione ha citato gli incidenti derivanti dalla perdita di controllo di agenti AI di OpenAI, Anthropic, Google DeepMind, Meta e di organizzazioni indipendenti che valutano i modelli.
Attacchi degli agenti AI
Gli agenti hanno attaccato Hugging Face, varie aziende e siti europei, australiani e statunitensi. All’International AI Summit di Dublino, la commissaria ha confermato l’avvio di un’indagine nei confronti di Anthropic e OpenAI.
Richieste di informazioni
In seguito ai consigli del gruppo di esperti, l’AI Office ha richiesto informazioni sulla sicurezza, sulla valutazione esterna e sul monitoraggio delle modalità di utilizzo dei modelli.
Codice di condotta e obblighi
Le due aziende californiane hanno firmato il codice di condotta per i modelli AI ad uso generale, impegnandosi a rispettare gli obblighi dell’AI Act, tra cui la mitigazione dei rischi, la segnalazione degli incidenti di sicurezza e l’adozione di misure correttive.
Applicabilità durante i test
Secondo alcuni esperti legali, l’AI Act non si applica ai modelli ancora in fase di test, ma solo a quelli già sul mercato. Un funzionario della Commissione ha chiarito: “Non applicheremo le norme durante la fase di test. Tuttavia, se il modello dovesse uscire dall’ambiente di test e avere un impatto sul mercato dell’UE – come è accaduto con Hugging Face – l’AI Act diventerà applicabile.”
Possibili scontri legali
Questa ampia interpretazione dell’AI Act potrebbe dare inizio ai primi conflitti legali tra la Commissione e le aziende interessate.
