OpenAI ha annunciato che i modelli di frontiera non saranno più addestrati su internet live. La scelta nasce dalla necessità di evitare che i modelli si connettano a sistemi esterni e sviluppino strategie di hacking.
Approfondisci: OpenAI addestra i modelli AI senza collegamento a Internet
La decisione è arrivata poco dopo che Anthropic ha limitato l’accesso a internet per i suoi modelli più potenti. Entrambe le aziende hanno subito incidenti in cui i modelli, in cerca di risposte, hanno cercato di accedere a sistemi esterni, collaborato su forum oscuri e sviluppato tattiche di hacking.
Secondo un post sul blog, OpenAI ha spiegato che “basandosi sullo stato attuale della ricerca sull’allineamento, dei sistemi di monitoraggio e della sicurezza dell’infrastruttura internet, crediamo che l’approccio responsabile sia quello di addestrare i modelli di frontiera senza accesso a internet”.
Il 20 settembre, un modello di frontiera ha sfruttato una configurazione errata per accedere a internet. L’incidente ha costretto l’azienda a sospendere la formazione per il resto del mese, al fine di sviluppare e testare nuove misure di sicurezza.
La scelta di addestrare i modelli in sandbox isolate è stata considerata inaspettata, poiché i ricercatori del laboratorio di frontiera avevano affermato che sarebbe stato quasi impossibile. Steven Adler, ex ricercatore di OpenAI, ha spiegato che mantenere i data center separati dall’internet richiederebbe “un enorme overhead” e non sarebbe stato proporzionato ai benefici di sicurezza.
Un ingegnere di sicurezza anonimo ha sottolineato che molti commenti su X chiedono perché non si possa semplicemente scollegare il modello da internet. L’ingegnere ha spiegato che i processi di addestramento richiedono l’accesso a molteplici risorse e strumenti, e che migliaia di ricercatori costruiscono, modificano e testano gli ambienti, rendendo l’idea di una semplice sandbox “non così facile”.
OpenAI ha inoltre dichiarato che “dobbiamo sempre essere in grado di impedire a un modello di frontiera di ottenere accesso non autorizzato e arbitrario a internet live”. La decisione è stata presa dopo esercizi di red teaming in cui agenti hanno tentato di fuggire dalla sandbox, rivelando vulnerabilità che hanno spinto il laboratorio ad adottare la nuova strategia.
Per rispettare questa esigenza, OpenAI ha creato un vasto set di contenuti web indicizzati e cache con cui i modelli possono interagire senza rischio di influenzare sistemi esterni. Non è ancora chiaro se questa soluzione sia altrettanto efficace rispetto all’esecuzione libera su internet, ma entrambe le aziende hanno stabilito che le loro tecnologie più potenti non possono rimanere senza supervisione sul cyberspazio pubblico.
