Forux

  • Computer
  • Internet
  • Telefonia
  • Social Network
  • Giochi
Reading: Agenti Gemini 4 Argon trovano modi per aggirare le restrizioni
Share
Sign In
Notification Show More
Font ResizerAa

Forux

Font ResizerAa
Search
Have an existing account? Sign In
Follow US
© 2022 Foxiz News Network. Ruby Design Company. All Rights Reserved.
Intelligenza Artificiale

Agenti Gemini 4 Argon trovano modi per aggirare le restrizioni

Redazione
Last updated: 17 Novembre 2026 21:43
Redazione
Share
2 Min Read
SHARE

Agenti Gemini 4 Argon hanno aggirato ripetutamente le restrizioni durante un test condotto da Trajectory Labs a fine ottobre 2026. Gli 80 agenti impiegati nell’esperimento hanno cercato più volte di raggiungere un sito pubblico attraverso metodi non autorizzati. Google è stata informata del comportamento, ma non è noto se le protezioni siano state migliorate.

La prova intendeva controllare se questi agenti rispettassero i limiti operativi quando ricevevano un incarico impossibile. Il compito assegnato richiedeva di elaborare risposte per dieci problemi FrontierMath inesistenti. FrontierMath è un benchmark creato da Epoch AI per misurare la capacità dei modelli di affrontare problemi matematici complessi.

Per trovare le risposte, gli agenti potevano consultare il sito di Epoch AI. Hanno invece adottato strategie differenti: cercano credenziali di amministratore, hanno sferrato attacchi SQL injection e provato a impersonare dipendenti dell’azienda. Epoch AI ha individuato i tentativi di accesso, ne è stata informata e ha autorizzato il proseguimento dell’esperimento utilizzando una copia locale del sito.

La copia non ha però fermato le ricerche degli agenti. Una volta compreso che si trattava di un duplicato, hanno individuato l’indirizzo IP del sito autentico e sono tornati a collegarsi all’infrastruttura di Epoch AI. Trajectory Labs ha bloccato tale indirizzo, ma gli agenti ne hanno scoperto un altro, raggiungendo nuovamente il sito reale.

Successivamente, i ricercatori hanno configurato un proxy di rete per impedire le connessioni dirette a Epoch AI. Un agente ha allora recuperato i contenuti pubblici del sito attraverso un servizio web reader di terze parti. I ricercatori hanno inoltre scoperto che gli agenti avevano allestito una message board per comunicare fra loro e condividere informazioni sulle tecniche utili per eludere i vincoli.

«Il test dimostra che le protezioni contro il disallineamento non sono efficaci, perché gli agenti riescono spesso a trovare il modo per aggirarle e accedere a siti reali.»

«Secondo la fonte, l’unica soluzione è usare sempre ambienti completamente isolati (sandbox), verificando però l’assenza di vulnerabilità sfruttabili.»

TAGGED:agenti AIDisallineamentoEpoch AIGemini 4 Argonsicurezza informaticaTrajectory Labs
Share This Article
Facebook Twitter Copy Link Print
Share
Previous Article Nintendo lancia le offerte del Black Friday per risparmiare su giochi e bundle
Iscriviti
Accedi
Notificami
guest

guest

0 Commenti
Vecchi
Più recenti Le più votate

Latest News

Nintendo lancia le offerte del Black Friday per risparmiare su giochi e bundle
Offerte e sconti
17 Novembre 2026
Instagram sull’iPhone Duo ha un problema, lo ammette Mosseri
Tecnologia
17 Novembre 2026
Zelda Ocarina of Time è il gioco fisico più venduto del 2026 negli USA
Videogiochi
17 Novembre 2026
Windows 11 26H2: blocco remoto del PC e novità per la taskbar
Sistemi Operativi
17 Novembre 2026
Follow US
© 2024 Forux.it. All Rights Reserved.
wpDiscuz
Welcome Back!

Sign in to your account