Google DeepMind e GovTech Singapore hanno lanciato un’intelligenza artificiale in grado di individuare truffe che si sviluppano durante le conversazioni. L’algoritmo non si limita a rilevare link sospetti, ma cerca di comprendere i meccanismi con cui i truffatori costruiscono la fiducia e manipolano le vittime.
Il progetto utilizza la famiglia di modelli Gemma, open‑source di Google, e potrebbe essere applicato oltre i confini di Singapore, dove le tattiche di truffa rappresentano un problema globale.
L’IA opera in due fasi: un primo programma leggero esamina i messaggi in arrivo per individuare segnali sospetti, riducendo al minimo il consumo di risorse dello smartphone. Se un rischio viene rilevato, un modello Gemma specializzato analizza un set più ampio di messaggi, cercando meccanismi di manipolazione come l’usurpazione d’identità o richieste insolite, invece di limitarsi a parole chiave o link fraudolenti.
Un esempio illustrativo è quello di un falso reclutatore che, dopo giorni di conversazioni apparentemente normali, chiede delle “spese di pratica” per finalizzare un’assunzione fittizia. Il sistema di Google è progettato per individuare questo tipo di progressione, anche se non è ancora chiaro a quale stadio potrà attivare un’allerta.
Quando viene sospettato un tentativo di truffa, il dispositivo può mostrare un avviso che invita l’utente a usare prudenza prima di condividere informazioni sensibili o effettuare pagamenti.
Per addestrare l’algoritmo, i team hanno utilizzato dati anonimizzati provenienti da segnalazioni di frodi e informazioni sulle modalità operative locali, evitando di integrare le conversazioni private dei cittadini.
Il nuovo progetto si distingue per l’analisi delle conversazioni nel tempo, con un modello addestrato a riconoscere strategie di manipolazione a partire da dati sulle truffe censite. L’elaborazione avviene direttamente sul dispositivo, senza inviare i messaggi ai server di Google o alle autorità competenti, offrendo una garanzia di riservatezza, sebbene restino interrogativi sull’accesso ai messaggi e sui controlli lasciati all’utente.
Google non ha ancora fornito cifre sull’efficacia del sistema o sui falsi allarmi. Originariamente sviluppato per Singapore, il progetto non è ancora disponibile per il grande pubblico e non è chiaro quali servizi di messaggistica o smartphone saranno compatibili, né se sarà diffuso a livello globale.
