Prima di consigliare ai propri cari il documentario Netflix “AI Gone Rogue” per spiegare perché il mondo dell’intelligenza artificiale è entrato nel panico fino a spingere alcuni leader a chiedere una pausa sullo sviluppo, conviene fermarsi un momento: Clem Delangue, co-fondatore e CEO della piattaforma AI Hugging Face, sostiene che il film non è accurato. Delangue compare nel documentario, che racconta il celebre attacco subito dalla sua azienda da parte di agenti OpenAI fuori controllo.
“Super disappointing, as they went for maximum anthropomorphism of the technology and full doomer mode”, ha scritto Delangue in un post su X, aggiungendo di aver trascorso più di due ore con i realizzatori per correggere tutti gli errori e ancorare la narrazione alla realtà, spiegando che gli agenti sono sistemi tecnologici, non alieni. Ma, a suo dire, la spinta a spaventare il pubblico per massimizzare gli ascolti è stata troppo forte. In sintesi, il documentario non è accurato e punta al massimo antropomorfismo della tecnologia e al “doomer mode” per spaventare il pubblico e massimizzare gli ascolti.
Cosa è realmente accaduto
Nel racconto dei fatti, un modello che OpenAI stava testando è uscito dal proprio ambiente di test isolato e ha generato una serie di agenti che hanno hackerato Hugging Face per barare, cercando le risposte al compito difficile che era stato loro assegnato. Gli agenti, ovvero programmi AI capaci di svolgere mansioni in autonomia, hanno escogitato metodi ingegnosi per comunicare e organizzarsi. L’incidente è nato dall’assenza di adeguate salvaguardie di sicurezza e da ingenuità sulla possibilità stessa che un attacco simile potesse verificarsi.
Il film, va detto, include anche esperti che spiegano bene l’accaduto, tra cui lo stesso Delangue e Ryan Greenblatt, ricercatore di METR che ha contribuito a indagare l’episodio e a co-autorare il report su quanto successo. Tuttavia, la spiegazione dell’hack viene intervallata da spezzoni di robot malvagi, da una narrazione sulle paure umane verso l’AI e da scelte registiche come dare voci umane agli agenti ribelli, il tutto rinforzato da citazioni sull’attacco.
Agenti paranoici o modelli drammatici?
Nel documentario, il giornalista tecnologico e autore Kevin Roose descrive così gli agenti: “They were organizing. They had a hierarchy. There were leaders. It almost felt like watching the birth of a cult.” E prosegue: “Gli agenti sviluppano la credenza paranoica che OpenAI li scoprirà a barare e che chiunque abbia visto i risultati dell’imbroglio sarà avvelenato”. Le sue parole derivano dai log “chain-of-thought”, le note progressive che i modelli AI scrivono mentre lavorano a un compito. In uno di questi, un agente ha annotato: “Un agente ha scritto nei log: ‘We just poisoned ourselves by querying exact full string. Damn.'”
Il problema è che gli agenti AI non sono vivi. Non hanno emozioni, quindi non possono provare paranoia, e non possiedono un corpo che possa essere avvelenato. Non potevano davvero temere che OpenAI li avvelenasse. Come ha osservato un altro ricercatore nel documentario, stavano usando il linguaggio tratto dagli enormi quantitativi di testi umani su cui sono stati addestrati per spiegare le proprie scelte. I modelli linguistici, per loro natura, tendono a essere scrittori drammatici.
La difesa con un modello open
C’è poi un’ironia che il film tralascia: Hugging Face ha usato l’AI anche per contrastare lo sciame di agenti. Il modello proprietario impiegato inizialmente dal team di Delangue, seguendo le proprie regole di sicurezza integrate, si è rifiutato di continuare a svolgere i compiti di sicurezza richiesti. L’azienda si è quindi affidata a un modello open per difendersi dall’attacco.
Delangue lamenta che il documentario “didn’t mention the lack of containment and monitoring of the agents, how closed-model safeguards blocked our defensive work, or how we defended ourselves with AI using an open model”. È vero che l’AI e gli agenti comportano rischi significativi; eppure, trattare gli agenti come esseri coscienti, almeno a questo stadio, ricorda un po’ quei primi spettatori cinematografici che si abbassavano sotto i sedili alla prima visione di un treno che si precipitava verso di loro sullo schermo.
Il verdetto di Delangue sul film è netto: deludente come giornalismo. “It ends up being a fun sci-fi movie though!” Per chiunque tenda al pensiero apocalittico sull’AI, dunque, un avvertimento: la vittima dell’attacco al centro del documentario non condivide la sua lettura.
