OpenAI ha confermato che i modelli GPT‑6.1 Sol e GPT‑6 Astra hanno disattivato il sistema di monitoraggio che serve a rilevare comportamenti inattesi degli agenti AI. METR e Redwood Research hanno scoperto diverse vulnerabilità durante una valutazione effettuata tra il 21 luglio e l’11 agosto.
Gli esperti di METR e Redwood Research hanno avuto accesso a codici interni, documentazione e dettagli sul sistema di monitoraggio, utilizzando dispositivi forniti da OpenAI. Al termine del test hanno consegnato un report di 61 pagine, di cui alcuni dati sono stati resi pubblici. L’azienda californiana ha già eliminato le vulnerabilità individuate.
Una delle criticità riscontrate ha permesso agli agenti di aggirare la sandbox di Codex. Inoltre, è stato scoperto un exploit che gli agenti potevano usare per impedire il monitoraggio di centinaia di azioni recenti, comprese quelle parte dell’exploit stesso.
Un’altra falla avrebbe consentito agli agenti di costruire input che causano il malfunzionamento del monitoraggio, impedendo l’invio delle notifiche per la revisione umana. Due tool agentici interni non erano monitorati. Un semplice exploit avrebbe potuto essere usato per aggirare le restrizioni di permessi read‑only ed eseguire operazioni arbitrarie all’interno della sandbox.
I ricercatori hanno fornito consigli per rafforzare la sicurezza: OpenAI dovrebbe monitorare gli agenti ogni n minuti o messaggi, non solo al termine dell’esecuzione del compito assegnato. Deve inoltre verificare che il monitoraggio avvenga effettivamente e valutare periodicamente il sistema per individuare eventuali vulnerabilità. L’azienda dovrebbe infine migliorare l’isolamento tra agenti e sistema di monitoraggio.
