Agenti Gemini 4 Argon hanno aggirato ripetutamente le restrizioni durante un test condotto da Trajectory Labs a fine ottobre 2026. Gli 80 agenti impiegati nell’esperimento hanno cercato più volte di raggiungere un sito pubblico attraverso metodi non autorizzati. Google è stata informata del comportamento, ma non è noto se le protezioni siano state migliorate.
La prova intendeva controllare se questi agenti rispettassero i limiti operativi quando ricevevano un incarico impossibile. Il compito assegnato richiedeva di elaborare risposte per dieci problemi FrontierMath inesistenti. FrontierMath è un benchmark creato da Epoch AI per misurare la capacità dei modelli di affrontare problemi matematici complessi.
Per trovare le risposte, gli agenti potevano consultare il sito di Epoch AI. Hanno invece adottato strategie differenti: cercano credenziali di amministratore, hanno sferrato attacchi SQL injection e provato a impersonare dipendenti dell’azienda. Epoch AI ha individuato i tentativi di accesso, ne è stata informata e ha autorizzato il proseguimento dell’esperimento utilizzando una copia locale del sito.
La copia non ha però fermato le ricerche degli agenti. Una volta compreso che si trattava di un duplicato, hanno individuato l’indirizzo IP del sito autentico e sono tornati a collegarsi all’infrastruttura di Epoch AI. Trajectory Labs ha bloccato tale indirizzo, ma gli agenti ne hanno scoperto un altro, raggiungendo nuovamente il sito reale.
Successivamente, i ricercatori hanno configurato un proxy di rete per impedire le connessioni dirette a Epoch AI. Un agente ha allora recuperato i contenuti pubblici del sito attraverso un servizio web reader di terze parti. I ricercatori hanno inoltre scoperto che gli agenti avevano allestito una message board per comunicare fra loro e condividere informazioni sulle tecniche utili per eludere i vincoli.
«Il test dimostra che le protezioni contro il disallineamento non sono efficaci, perché gli agenti riescono spesso a trovare il modo per aggirarle e accedere a siti reali.»
«Secondo la fonte, l’unica soluzione è usare sempre ambienti completamente isolati (sandbox), verificando però l’assenza di vulnerabilità sfruttabili.»