AI contro AI: chi decide quando le evidenze possono essere sintetiche?

La stessa tecnologia, due lati del rischio

L’AI può rendere più credibili impersonazioni, documenti e richieste fraudolente; può anche aiutare i controlli a collegare anomalie, comportamenti e transazioni. Ma un segnale generato o rilevato da una macchina non equivale, da solo, a una conclusione verificata. La domanda utile è: quale evidenza indipendente cambia la decisione?

Quando vedere e sentire non bastano

Nel report Horizon Scan AI and Deepfakes del 22 dicembre 2025, il FATF descrive una videoconferenza con dirigenti impersonati e un trasferimento di 25 milioni di dollari (Box 0.2). La fonte non identifica società o giurisdizione. La lezione operativa è separare riconoscimento apparente, verifica dell’autorità e autorizzazione del pagamento: non chiedere a ogni dipendente di riconoscere sempre un deepfake.

Scenario di controllo proposto: una richiesta urgente apparentemente proveniente da un dirigente deve passare da un callback su un canale già verificato, conferma dei poteri e controllo indipendente prima dell’esecuzione. Sono misure professionali illustrative, non un elenco di obblighi tecnologici imposto da AMLA.

Identità sintetiche e onboarding remoto

Voice cloning, documenti alterati e identità sintetiche possono superare singoli controlli plausibili senza produrre un’identità coerente. Il test proposto collega identità, documento, dispositivo, titolarità del conto e attività dichiarata; liveness o un video convincente non risolvono da soli il problema. Un’incongruenza richiede corroborazione indipendente ed escalation proporzionata, non rifiuto automatico.

La comunicazione UIF dell’8 giugno 2026 richiama deepfake, identità sintetiche e benefici della collaborazione fra presìdi antifrode e AML. Applicazione pratica: collega l’incongruenza d’identità al successivo comportamento del rapporto, senza trattare onboarding e analisi dei flussi come spiegazioni separate.

Il punteggio AI non è una decisione

Un sistema attribuisce rischio elevato a un cliente. L’analista deve poter capire quali dati e relazioni alimentano il segnale, verificare qualità e attualità delle informazioni, cercare spiegazioni alternative e registrare ciò che resta irrisolto. La chiusura automatica e l’escalation automatica, senza contesto, possono entrambe essere errate.

Detection, investigation e network analysis aiutano a collegare identità, dispositivi, controparti e flussi. Per evitare automation bias, il reviewer verifica almeno una spiegazione alternativa e registra dati mancanti, confidenza del segnale e motivo dell’eventuale override. Il sistema prioritizza la review: non anticipa il giudizio sul cliente.

Criminal AI → Defensive AI → Human Decision

Il confronto non si risolve chiedendo quale AI sia più potente. Il vantaggio difensivo nasce quando dati affidabili, segnali collegati, collaborazione e tecnologia arrivano a un reviewer capace di contestare l’output e motivare la decisione. AMLA descrive l’AI come un rischio già capace di mettere sotto pressione identity verification e CDD e, sul lato difensivo, punta su analytics, AI/ML e condivisione strutturata delle informazioni: non è però una prescrizione universale di acquistare un detector anti-deepfake.

Cosa mostra il confronto globale

Il quadro 2026 converge oltre l’Europa. INTERPOL descrive l’industrializzazione della frode, con AI, deepfake e infrastrutture criminali condivise che aumentano scala e velocità. Negli Stati Uniti FinCEN collega i deepfake a documenti e identità usati per aggirare verification e authentication. Sul lato difensivo, Singapore sta sperimentando modelli AI/ML su dati storici provenienti da più banche per individuare transazioni e conti a rischio; nel Regno Unito la FCA usa dati sintetici per testare tecniche AML senza condividere dati reali dei clienti. La lezione non è che esista un unico modello vincente: la difesa più forte combina qualità dei dati, collaborazione, test, governance e decisione umana.

Cosa sta costruendo AMLA sul lato difensivo

Il Programma di lavoro AMLA 2026–2028 collega esplicitamente tecnologia e innovazione alla supervisione: prevede data analytics e capacità AI/ML, raccolta automatizzata, anomaly detection e advanced analytics a supporto delle decisioni di supervisione. Lo stesso documento richiede una governance AI sicura per contenere rischi come model drift e bias. Il punto utile per un soggetto obbligato non è copiare gli strumenti dell’autorità, ma adottare lo stesso principio: automazione per trovare e collegare segnali, governance e giudizio umano per trasformarli in una decisione difendibile.

Qualità dei dati, riservatezza e decisione ricostruibile

Prima di far circolare dati fra strumenti o organizzazioni, chiarisci scopo, base giuridica, dati necessari e autorizzazioni. Registra origine, aggiornamento, limiti e verifiche. Mantieni distinti output del modello, controllo indipendente e decisione responsabile: un log tecnico non spiega da solo perché il segnale è stato accettato o contestato. Sono domande di disegno del controllo da applicare nel perimetro giuridico pertinente.

• Distingui scambio tra supervisori, nel gruppo e tra operatori: ciascun circuito ha perimetro e accessi propri.
• La consultazione sul database AMLA riguarda lo scambio riservato di vigilanza; non autorizza la libera condivisione di fascicoli cliente tra privati.
• Usa ambienti autorizzati e accessi proporzionati. Conserva evidenze, reviewer, motivo dell’override e trigger di riesame senza diffondere dati cliente non necessari.

Regole applicabili e aspettative da distinguere

L’AI Act richiede di verificare ruolo e classificazione del sistema: l’oversight dell’articolo 14 riguarda sistemi high-risk nel relativo perimetro, non ogni software AML. AMLR e standard AMLA riguardano rischio, governance e controlli; non impongono una generica soluzione AI o un singolo detector. Collegare il caso alla norma applicabile evita di trasformare una buona pratica proposta in un obbligo inesistente.