Il bisogno di un nuovo livello di sicurezza per l’IA
Negli ultimi mesi l’attenzione verso l’intelligenza artificiale è cresciuta, e con essa la consapevolezza dei pericoli che essa può comportare. Satya Nadella ha ribadito che i sistemi di superintelligenza devono essere protetti con misure di sicurezza più robuste. Secondo lui, la delega completa delle decisioni a queste tecnologie non è più sostenibile: è fondamentale che gli umani possano intervenire quando necessario. “Stiamo implementando questi complessi sistemi agentici e modelli, concedendo loro accesso ai nostri dati più sensibili e dando loro la possibilità di intraprendere, per nostro conto, azioni fondamentali per le nostre attività”, ha scritto su X. L’azienda vuole quindi un sistema di fiducia che permetta di monitorare e fermare l’attività in caso di comportamenti indesiderati.
Il concetto di “sistema di arresto”
La proposta di Nadella prevede la creazione di un meccanismo di arresto rapido, che consenta a una persona autorizzata di sospendere un modello in qualsiasi momento, anche mentre è in piena attività. Questo strumento è particolarmente rilevante per i sistemi autonomi che possono accedere a informazioni sensibili e compiere azioni importanti senza l’intervento umano a ogni passo. Un tale controllo garantirebbe che la supervisione umana rimanga sempre attiva, evitando che i modelli si comportino in modo imprevedibile o dannoso.
La necessità di sistemi confinati e trasparenza
Per evitare che i modelli superino i limiti prefissati, Nadella sostiene la costruzione di ambienti confinati dove è possibile osservare il loro comportamento e contenere eventuali azioni rischiose prima che si verifichino. Inoltre, l’azienda richiede che le segnalazioni di incidenti siano fatte in modo tempestivo e trasparente, così da poter intervenire prontamente. “Non possiamo semplicemente delegare ad altri la responsabilità di ciò che l’intelligenza artificiale fa per nostro conto”, ha affermato, evidenziando la responsabilità condivisa tra gli sviluppatori e gli utenti finali.
