OpenAI ha rimosso dal lavoro tre dei suoi ricercatori, Jasmine Wang, Tomek Korbak e Mikita Balesni, affermando che avevano trasmesso dati sensibili a Ryan Greenblatt tramite la piattaforma di messaggistica Signal. L’azienda californiana sostiene che la violazione delle regole sulla gestione delle informazioni sensibili sia la causa principale, non la segnalazione di potenziali vulnerabilità nei modelli AI.
I dipendenti, dal canto loro, sostengono di non aver ricevuto alcuna comunicazione scritta da OpenAI che spiegasse quali dati avessero esposto. Hanno inoltre evidenziato i pericoli associati all’architettura dei nuovi modelli Astra, che ostacola il monitoraggio interno.
Secondo le informazioni rilasciate, Balesni aveva condiviso un link al suo articolo su Greenblatt nel canale Slack di OpenAI, prima di inviarlo ai dirigenti aziendali. Dopo aver ottenuto l’autorizzazione da OpenAI e aver rimosso le informazioni confidenziali, la proposta è stata inoltrata a Greenblatt. Korbak, invece, ha comunicato con Greenblatt tramite Signal.
Il caso è stato indagato da METR, incaricato da OpenAI di analizzare l’incidente relativo a Hugging Face. METR ha assunto Greenblatt per accelerare l’esame dei log e ha identificato diverse vulnerabilità nel sistema di monitoraggio di OpenAI. Nel frattempo, METR è stato scelto anche da Anthropic per valutare i propri modelli.
Nel settembre, un articolo di The Information ha rivelato l’uso della nuova architettura Astra e le difficoltà di monitorare la sua catena di ragionamento. Secondo OpenAI, Greenblatt avrebbe fornito a The Information le informazioni ottenute dai ricercatori. I tre dipendenti licenziati sono accusati di aver utilizzato Signal per comunicare con Greenblatt.
Wang è stata licenziata per aver letto accidentalmente un’email di un dirigente, senza divulgarne il contenuto. I ricercatori, ora membri dello staff tecnico di METR, negano di aver ricevuto o condiviso informazioni sensibili con i due ex dipendenti di OpenAI o con The Information.
