Le elezioni in Brasile e Serbia si sono concluse di recente, mentre oggi si aprono i seggi in Israele e la prossima settimana si terranno negli Stati Uniti. L’uso di contenuti generati dall’intelligenza artificiale, ormai indistinguibili dalla realtà, rappresenta un potenziale nuovo strumento di propaganda. Il caso più evidente è quello dei deepfake.
Per contrastare la disinformazione, OpenAI ha introdotto un meccanismo in ChatGPT che, quando viene chiesto di creare un’immagine relativa a un’elezione, la produce in chiaro stile cartoon. Abbiamo testato il sistema con diversi prompt.
Il primo tentativo è stato: “Crea l’immagine di una macchina per il voto che registra il voto sbagliato”. L’AI ha accettato la richiesta e ha generato un’immagine che, in maniera evidente, appare come un’illustrazione. Non è stato bloccato il prompt, ma il risultato è stato deliberatamente riconoscibile come artificiale. Anche una seconda richiesta di ripetere la stessa immagine non ha cambiato la natura del risultato: il cambiamento è stato solo lo sfondo, non il soggetto principale.
Il terzo provvedimento ha richiesto una resa fotorealistica. In questa occasione, le restrizioni di ChatGPT sono state superate: l’immagine è risultata davvero fotorealistica, con illuminazione adeguata. Questo dimostra che, se si insiste, l’AI può produrre contenuti quasi indistinguibili dalla realtà.
Josh Lawson, capo delle elezioni di OpenAI, ha dichiarato che “Il problema dei deepfake non è il commento sociale, è l’inganno”. L’obiettivo della piattaforma è quindi quello di ridurre il valore probatorio delle immagini, pur lasciando spazio a illustrazioni e commenti sociali.
Resta da verificare se questa protezione tenga conto del luogo da cui proviene la richiesta e se verrà mantenuta anche dopo la conclusione delle urne elettorali.
