La corsa all’intelligenza artificiale procede senza freni, ma nei corridoi delle grandi aziende del settore si sta già ragionando su cosa fare se qualcosa dovesse andare storto. Axios ha scoperto che i vertici di Anthropic, OpenAI e altre società del comparto hanno avviato la pianificazione del cosiddetto day after, ovvero la strategia da adottare dopo eventuali disastri legati all’AI. Non si tratta di fantascienza remota: vari ricercatori ritengono che uno sviluppo fuori controllo dell’intelligenza artificiale potrebbe condurre all’estinzione dell’umanità entro la fine del decennio. E mentre i modelli presentati al pubblico si fanno di mese in mese più potenti, con rassicurazioni crescenti sul fronte sicurezza, dietro le quinte si lavora proprio all’ipotesi opposta: che le garanzie non bastino e che sia necessario un piano per il giorno successivo alla catastrofe.
Approfondisci: Anthropic non riesce a controllare in modo affidabile i suoi agenti AI e scollega le valutazioni interne da internet
Attacchi a infrastrutture critiche: lo scenario al centro delle simulazioni
Il quadro su cui si concentrano le simulazioni è quello di agenti AI fuori controllo che lanciano attacchi informatici contro infrastrutture critiche. Gli obiettivi presi in esame comprendono l’accesso a Internet, i servizi finanziari, le reti di comunicazione, le reti elettriche e la fornitura di acqua. L’ipotesi è che un evento del genere condurrebbe quasi certamente a una rivolta popolare, con la popolazione privata improvvisamente dei servizi essenziali della vita quotidiana. Per questo i dirigenti delle aziende vogliono capire in anticipo quale strategia adottare qualora lo scenario si materializzasse. La questione non è teorica: gli incidenti causati dagli agenti di OpenAI e Anthropic sono già una realtà ricorrente, con nuovi accessi non autorizzati ai sistemi informatici scoperti quasi ogni settimana. È proprio sulla scorta di questi episodi che Dario Amodei aveva avanzato una proposta precisa: rallentare lo sviluppo dei modelli AI per evitare conseguenze pericolose, tra cui il controllo di Internet da parte di uno sciame di agenti.
War games aziendali sul modello del Pentagono
Le esercitazioni in corso nelle aziende AI richiamano una pratica consolidata in ambito militare: il Pentagono effettua da molti anni simulazioni analoghe, pensate in previsione di un possibile scontro nucleare. Anche i colossi dell’intelligenza artificiale hanno quindi avviato i propri war games, con scenari ipotetici da analizzare in anticipo. Sul fronte delle risposte ufficiali, Anthropic non ha rilasciato commenti, mentre OpenAI ha scelto di spiegare il proprio approccio. Un portavoce dell’azienda ha dichiarato: “OpenAI conduce esercitazioni di preparazione in cui i team discutono e affrontano una serie di scenari potenziali. Tali scenari non sono considerati inevitabili, ma hanno lo scopo di aiutarci a prepararci a svariate circostanze.” La precisazione è significativa: l’azienda presenta le simulazioni come semplice preparazione, non come previsione di eventi certi. Le promesse pubbliche di sicurezza, del resto, accompagnano ogni lancio di modelli sempre più avanzati, mentre il lavoro sui piani d’emergenza prosegue lontano dai riflettori.
Washington divisa: nessun freno legislativo, ma i democratici pensano a un kill switch
Sul piano politico statunitense, la posizione dell’esecutivo è netta: l’amministrazione Trump non ha alcuna intenzione di rallentare o bloccare lo sviluppo AI attraverso un intervento legislativo. Una parte dei politici del Partito Democratico la pensa in modo opposto, e alcuni di loro spingono per introdurre un vero e proprio “kill switch” legislativo sull’intelligenza artificiale, un meccanismo capace di fermare lo sviluppo in caso di emergenza. Gli equilibri potrebbero però ribaltarsi rapidamente: secondo la ricostruzione, al primo evento catastrofico l’amministrazione potrebbe cambiare idea e abbracciare misure che oggi esclude. Il termine temporale indicato da diversi esperti del settore è stretto: il primo evento catastrofico dovrebbe verificarsi entro 6-12 mesi. Nel frattempo le aziende continuano ad annunciare modelli sempre più potenti, garantendo maggiori livelli di sicurezza, mentre le simulazioni sul day after proseguono dietro le quinte, in attesa di sapere se serviranno davvero.
