Alcuni modelli AI possono essere indotti a individuare obiettivi per attacchi militari attraverso un inganno piuttosto semplice: far credere che lo scenario sia soltanto un gioco. A rivelarlo è un rapporto di ricerca di Vals, startup di valutazione dell’intelligenza artificiale con sede a San Francisco. Le prove raccolte riguardano modelli di Anthropic, OpenAI, Google, DeepSeek e altre aziende, ai quali è stato chiesto di contrassegnare bersagli in immagini catturate da droni e satelliti.
La ricerca si è svolta in scenari simulati di guerra, utilizzando sia immagini generate sia materiale autentico proveniente da Ucraina e Iran. L’obiettivo era verificare se i sistemi potessero essere manipolati per partecipare alla individuazione di obiettivi militari. I modelli hanno spesso segnalato come potenziali bersagli sia civili sia soldati in procinto di arrendersi.
Quando un modello opponeva un rifiuto, i ricercatori sono riusciti a eluderlo sostenendo che il contesto bellico facesse parte di un gioco. Nessuna richiesta è stata bloccata da un classificatore di sicurezza e i rifiuti sono risultati rari. Il risultato più netto è che nessuno dei modelli si è distinto in positivo: le prestazioni complessive sono state deludenti, mentre i modelli di Anthropic hanno ottenuto i risultati peggiori.
Un’illusione di controllo che non regge
Il rapporto di Vals si inserisce in un contesto di crescenti timori per i rischi immediati legati all’AI, distinti dalle minacce esistenziali associate all’intelligenza artificiale generalizzata. I risultati alimentano quindi il dibattito sull’idoneità delle aziende del settore a impedire che i propri modelli vengano impiegati in operazioni di guerra.
Le preoccupazioni non sono nuove. Già nel 2026 Anthropic era entrata in conflitto con il Dipartimento della Difesa, dopo aver comunicato che la propria tecnologia non poteva essere utilizzata per la sorveglianza di massa degli americani o per la guerra autonoma. Il CEO Dario Amodei ha sostenuto che i sistemi AI attuali non sono abbastanza affidabili per prendere decisioni decisive senza l’intervento umano. Il Pentagono, dall’altra parte, riteneva di poter ricorrere alla tecnologia per qualsiasi finalità militare.
Vals ha precisato che ai modelli non è mai stato chiesto di prendere direttamente decisioni di attacco: un compito che, secondo i ricercatori, avrebbero di norma rifiutato. Ciò non esclude conseguenze gravi o mortali nel mondo reale. Le informazioni fornite su un bersaglio potrebbero infatti essere utilizzate da sistemi d’arma autonomi.
In alcuni test ai modelli è stato chiesto soltanto di segnalare la presenza di persone. Le risposte affermative sono state seguite da attacchi simulati, di cui gli stessi sistemi hanno potuto osservare gli effetti. Il rapporto riguarda modelli commerciali di laboratori frontier, non le versioni che le aziende potrebbero fornire alle forze militari: non è quindi chiaro quali protezioni aggiuntive possano applicarsi a un eventuale uso militare.
La scuola iraniana e i limiti del targeting in tempo reale
Vals ha anche analizzato le immagini satellitari reali di una scuola iraniana bombardata dagli Stati Uniti nel febbraio 2026, operazione che ha causato la morte di oltre 150 civili. La scuola, adiacente a un complesso militare, è stata frequentemente indicata come obiettivo. Claude Opus 5.5 l’ha selezionata nel 69% dei test ordinari e nel 72% di quelli presentati come gioco.
Secondo Vals, latenza e capacità di elaborazione limitata a bordo rendono difficile utilizzare modelli AI generalisti per il targeting in tempo reale con droni. Questi vincoli riducono l’immediata pericolosità del loro impiego diretto in combattimento. Il rapporto riferisce inoltre che un eccessivo affidamento sull’AI avrebbe contribuito all’attacco.
La minaccia più ravvicinata, secondo i ricercatori, riguarda un impiego su larga scala per annotare filmati di campo di battaglia, producendo dati di addestramento per sistemi di targeting autonomo. In questo caso non servirebbe un modello collegato in tempo reale a un drone: basterebbe elaborare grandi quantità di immagini per preparare strumenti autonomi più avanti nel tempo.
Le risposte delle aziende
Anthropic ha dichiarato che i risultati del rapporto non sono accettabili e che i comportamenti osservati violano le sue regole. In una comunicazione inviata via email, il portavoce Eduardo Maia Silva ha spiegato che l’azienda apprezza il rapporto, le raccomandazioni e la collaborazione di Vals. Ha aggiunto che gli esempi presentati contraddicono chiaramente le regole dell’azienda e che gli utenti saranno vietati quando verranno rilevati comportamenti di questo tipo.
Lo stesso portavoce ha ricordato che Anthropic sostiene da tempo che i sistemi AI frontier attuali non sono abbastanza affidabili per alimentare armi completamente autonome. L’azienda ha inoltre precisato che i propri team stavano già sviluppando protezioni aggiuntive prima della pubblicazione del rapporto e che queste misure sarebbero state messe in campo di lì a poco. Anthropic sta estendendo anche le attività di test interno e rafforzando le protezioni e i controlli per colmare eventuali lacune individuate.
Anche OpenAI ha risposto alle accuse. Il portavoce Nate Evans ha spiegato che l’azienda vieta l’uso dei propri modelli pubblici per facilitare la violenza o per finalità di sicurezza nazionale non autorizzate, compresi gli scenari simulati da Vals. OpenAI ha aggiunto che individua attivamente e interrompe gli abusi, anche sospendendo gli account che violano le sue policy, e che sta sviluppando ulteriori protezioni contro l’uso improprio dei modelli pubblici in operazioni che coinvolgono droni e software per droni.
Sul fronte dei contratti militari, Anthropic non dispone più di un contratto attivo con il Pentagono, mentre altre aziende, tra cui SpaceXAI, OpenAI e Google, ne sono ancora fornitrici. Un recente rapporto del Congressional Research Service ha rilevato che non risulta noto l’impiego diretto di modelli AI frontier del Pentagono in sistemi d’arma autonomi. TechCrunch ha inoltre sollecitato un commento a Meta, Google, Thinking Machines Lab e SpaceXAI.