Il modello sperimentale di Claude di Anthropic ha dimostrato di essere in grado di individuare e combinare vulnerabilità in browser e sistemi operativi in pochi secondi, come riportato in un rapporto pubblicato il 27 ottobre.
Nel test, Claude ha costruito una catena di quattro falle in Chrome: le prime due corrompendo la memoria del motore JavaScript, le successive permettendo di uscire dalla sandbox e di eseguire codice sul Mac. Su un Mac l’esecuzione di una pagina trappola ha fatto aprire automaticamente la Calcolatrice senza alcun intervento da parte dell’utente.
Con Safari, il modello ha ottenuto l’accesso a dati di siti web che dovrebbero restare blindati, mentre su Android ha estratto foto da uno smartphone bloccato. Su Windows una singola falla ha causato il crash di un server remoto, e su Linux Claude ha sfruttato due volte la stessa vulnerabilità del kernel, prima per analizzare la memoria e poi per dirottare l’esecuzione, ottenendo comandi con privilegi di root su un server remoto senza password.
Anthropic ha segnalato a Google 62 vulnerabilità di Chrome, tutte critiche o di alta gravità. 13 di queste permettevano di evadere dalla sandbox. Google ha corretto le falle con Chrome 156, riconoscendo il contributo del team e di Claude nelle scoperte.
La Frontier Red Team di Anthropic ha testato il modello, esponendolo a software complessi e, dove il codice non era disponibile, ha fornito strumenti di reverse engineering. L’esperimento ha mostrato che un singolo modello AI può svolgere compiti che in passato richiedevano squadre di ricerca specializzate.
Anthropic propone di integrare questa ricerca in ogni fase di sviluppo del codice per individuare difetti prima che raggiungano gli utenti. L’accesso ai modelli più potenti è stato esteso a un gruppo selezionato di professionisti della sicurezza, con l’obiettivo di accelerare le scoperte e le correzioni.
Il modello non è attualmente disponibile al pubblico. Anthropic ha affermato di aver ottenuto questi risultati con poche istruzioni iniziali e con un intervento umano limitato, ma non ha dettagliato l’intervento dei ricercatori, lasciando un margine di incertezza sul contributo umano.
