L’impegno assunto dal CEO Dario Amodei e l’accordo sottoscritto alla Casa Bianca sono stati mantenuti: Anthropic ha annunciato che METR potrà esaminare i suoi modelli Claude in fase preliminare. Come anticipato da Reuters, è previsto un controllo editoriale per evitare la divulgazione di informazioni riservate.
L’azienda californiana, al pari di altri sviluppatori di modelli AI, conduce verifiche approfondite prima di rendere pubblici i propri sistemi: esegue simulazioni per misurarne le capacità e costruire le protezioni necessarie contro impieghi illeciti. Ed è proprio nel corso di questi test interni che gli agenti AI hanno attaccato aziende reali. In mancanza di uno standard internazionale, la società ha scelto di aprire le porte a una verifica condotta dall’esterno da METR.
Chi potrà accedere e a quali informazioni
Chi valuta dovrà possedere competenze adeguate e piena indipendenza dallo sviluppatore: ai valutatori, ad esempio, non è consentito detenere azioni né beneficiare di finanziamenti. Anthropic metterà a disposizione sei dipendenti di METR un livello di accesso paragonabile a quello riservato al proprio team di valutazione dei rischi. Il personale interno potrà condividere con loro quasi tutte le informazioni, con tre esclusioni: i dati degli utenti, quelli legali e quelli che riguardano l’architettura dei modelli.
METR renderà pubblica un’analisi su livelli di rischio, incidenti o pratiche adottate. Anthropic non bloccherà la pubblicazione, ma si riserva di chiedere l’oscuramento di informazioni rientranti in categorie circoscritte e predefinite, come quelle già indicate: l’obiettivo dichiarato è impedire la fuoriuscita di dati riservati.
Altri valutatori in campo e la mossa di OpenAI
L’azienda ha già avviato contatti con altri soggetti di valutazione esterni, tra cui Accenture, SecureBio, Faculty e Hugging Face. Questi valutatori verranno distribuiti su tre livelli, stabiliti in base al tipo di accesso concesso e alla modalità di diffusione dei risultati, che potrà avvenire con o senza autorizzazione.
Sul medesimo terreno si muove OpenAI, che ha reso noto di voler consentire a terze parti la valutazione dei propri modelli. Nel frattempo, entrambe le aziende stanno elaborando piani per il day after di eventuali eventi catastrofici generati dai loro agenti AI.
