Anthropic ha diffuso un articolo nel proprio blog per illustrare FlashProve, una soluzione open source concepita per accertare quale modello abbia generato una determinata risposta. Il progetto ruota attorno al concetto di “provable inference”, traducibile come inferenza dimostrabile: un meccanismo basato su una prova crittografica che attesta l’origine di un output da uno specifico modello.
L’obiettivo è rendere controllabile l’identità del sistema che ha prodotto un testo, evitando che un modello possa essere presentato come diverso da quello realmente utilizzato. L’analogia più immediata riguarda le firme crittografiche delle email, che permettono di verificare l’identità del mittente dichiarato. FlashProve mira a estendere una garanzia analoga alle risposte generate dalle AI e a contrastare chi tenta di far passare un sistema per un altro.
Un controllo utile anche contro i laboratori
La questione più delicata riguarda la possibilità che lo stesso laboratorio sviluppatore e gestore del modello lo sostituisca senza dichiararlo. “Il sistema potrebbe impedire a un’azienda di sostituire di nascosto un modello costoso con uno più economico per ridurre i costi.” Potrebbe inoltre operare nella direzione opposta: “Il meccanismo potrebbe scoraggiare l’uso di un modello più potente di quello dichiarato per gonfiare i risultati nei test.”
Questa capacità di controllo dipende dagli elementi pubblicati dai laboratori. Per consentire la verifica, ogni laboratorio deve rendere disponibile una “fingerprint”, cioè un’impronta digitale, per ciascun modello distribuito. L’impronta può essere successivamente confrontata con i singoli output e sottoposta a controllo crittografico, senza richiedere accesso diretto al funzionamento interno del sistema.
L’impronta non espone i pesi interni
Il vantaggio per le aziende è che questi dati non consentono di ricostruire il modello. I pesi interni, l’insieme di parametri numerici che determina il comportamento del sistema, restano quindi protetti. “L’impronta digitale consente di verificare l’origine di un output senza rivelare i pesi interni del modello e può funzionare anche con modelli commerciali.” I laboratori possono condividere l’impronta senza consegnare i propri segreti tecnologici.
Anche l’esecuzione della verifica è pensata per non richiedere infrastrutture rilevanti. “La verifica potrebbe essere eseguita su un dispositivo locale, grazie alla leggerezza del sistema.” Questa caratteristica rende plausibile un impiego del controllo direttamente presso l’utente o all’interno dell’organizzazione che utilizza il modello, senza trasferire output e dati verso un servizio remoto.
Specifica e codice disponibili su GitHub
Il materiale pubblicato comprende una specifica tecnica dettagliata e codice funzionante per diverse componenti del progetto. La documentazione e l’implementazione sono disponibili su GitHub con licenza open source, così da consentire anche l’analisi indipendente delle soluzioni adottate e il loro eventuale riutilizzo.
Lo stato del lavoro è però chiaramente intermedio. La ricerca prosegue e non è previsto alcun passaggio di FlashProve in produzione. “Gli autori hanno pubblicato un avanzamento intermedio e non prevedono di portare FlashProve in produzione.” La pubblicazione serve a condividere i risultati finora ottenuti, permettere ad altri studiosi di esaminarli e contribuire al loro miglioramento.
