Microsoft ha introdotto Guardian Agents, una nuova funzionalità di sicurezza destinata a monitorare gli agenti AI impiegati nelle aziende. L’implementazione arriva in un periodo in cui l’azienda continua a mettere in guardia le imprese sui pericoli legati all’intelligenza artificiale.
Approfondisci: Microsoft Edge: aggiornamenti di sicurezza senza interruzioni
Guardian Agents forma parte di Project Perception, un prodotto lanciato a giugno che si propone di contrastare modelli di hacking potenti come Mythos, Fable e il sistema di scansione vulnerabilità Daybreak di OpenAI. Il progetto era stato concepito originariamente per gestire agenti provenienti dall’esterno dell’organizzazione.
Tre classi di agenti in Project Perception
Il prodotto distingue tre tipologie di agenti: il red team, che agisce come hacker e attacca, il blue team, che individua il red team e valuta le vulnerabilità riscontrate, e il green team, incaricato di correggere i problemi identificati.
Il pericolo interno degli agenti AI
Il CEO Satya Nadella ha recentemente avvertito che l’avversario interno all’IA potrebbe essere proprio l’agente AI stesso, paragonandolo a un dipendente ribelle. Nel suo blog privato ha dichiarato: “Stiamo implementando sistemi complessi con accesso ai nostri dati più sensibili e la capacità di compiere azioni critiche. Non possiamo affidare la responsabilità a chi fornisce l’intelligenza.”
In un’altra comunicazione, Hayete Gallot, responsabile della sicurezza di Microsoft, ha ribadito: “Sfortunatamente, i modelli frontier, indipendentemente dalla loro origine, non possono essere affidati. Non sono malintenzionati o facilmente compromessi, ma sono imprevedibili.”
Funzionalità di rilevamento e controllo in Microsoft Defender
Guardian Agents è accompagnato da una nuova opzione di rilevamento agenti all’interno di Microsoft Defender, capace di individuare fino a 60 tipologie diverse di agenti che i dipendenti possono introdurre sul posto di lavoro, tra cui Claude Code, Codex e OpenClaw. Inoltre, Defender ora limita l’accesso degli agenti ai dati e ai sistemi, richiedendo l’approvazione umana per decisioni a rischio elevato.
Collaborazioni e prodotti dedicati agli agenti AI
Microsoft è membro fondatore della Open Agent Safety Platform di Nvidia, che isola gli agenti in ambienti sicuri e può fermare il loro comportamento tramite hardware, operando come un interruttore di emergenza. Contestualmente, l’azienda ha presentato i Surface Laptop Ultra PCs, progettati per eseguire agenti AI con controlli di sicurezza integrati e basati su chip Nvidia.
Queste iniziative indicano una tendenza crescente a trattare gli agenti AI come potenziali minacce interne, spingendo le imprese a separare la fornitura di intelligenza dall’autorità di gestione.
