L’Intelligenza Artificiale Alimenta le Frodi Finanziarie: Un Appello alle Istituzioni

Nel Regno Unito, le perdite causate da frodi finanziarie hanno raggiunto la cifra record di 1,3 miliardi di sterline, un chiaro segnale di un fenomeno in rapida crescita. Uno dei principali fattori che contribuiscono a questa escalation è l’adozione sempre più diffusa di tecnologie avanzate, in particolare l’intelligenza artificiale (AI), che si sono rivelate strumenti efficaci nelle mani di reti criminali.

I gruppi di frode stanno diventando sempre più veloci e sofisticati. Tecnologie come la generative AI permettono di industrializzare l’ingegneria sociale, creando identità sintetiche composite in grado di superare i controlli KYC (Know Your Customer), costruendo storie creditizie credibili e rimanendo operative per mesi prima di eseguire la frode. L’uso di deepfake per frodi di autorizzazione produce voci e video così plausibili da indurre le persone a autorizzare transazioni o a fornire le proprie credenziali. Queste tattiche mirano a minare la fiducia, il punto cruciale in cui un sistema o un operatore umano decide che un’operazione è legittima.

Le tecnologie attuali non vengono principalmente sconfitte dai sistemi delle banche, ma attaccano direttamente il cliente, manipolandolo con chiamate più convincenti, impersonificazioni realistiche e campagne di social engineering personalizzate che erodono lo scetticismo protettivo. Di conseguenza, gli attacchi giungono ai sistemi bancari con caratteristiche tecniche di legittimità, rendendo più difficile la rilevazione. Inoltre, l’uso dell’AI potrebbe evolvere verso attacchi diretti contro le infrastrutture istituzionali, con i criminali che mappano i controlli e si mantengono deliberatamente al di fuori dei confini di rilevamento.

I team di prevenzione frodi nelle istituzioni finanziarie sono spesso organizzati attorno alla gestione degli incidenti: rilevare, rispondere e chiudere il caso. Tuttavia, approcci più efficaci considerano la rilevazione come una funzione di ricerca, alla ricerca di spostamenti comportamentali che possano indicare test o sondaggio degli asset. È necessario personale in grado di ragionare sui sistemi piuttosto che limitarsi a operarli, con competenze sui principi sottostanti: ragionamento statistico, pensiero avversariale, progettazione dei sistemi, analisi dei feedback e comprensione degli effetti composti nel tempo.

Non tutte le organizzazioni dispongono di queste competenze e, sebbene l’assunzione di nuovo personale possa sembrare la soluzione, l’avanzamento e la diffusione degli strumenti AI rendono disponibili soluzioni avanzate facilmente integrabili nelle infrastrutture esistenti. La strada suggerita è investire in fornitori esterni che rendano questi strumenti accessibili, spiegabili e combinino analisi statistica e capacità di reasoning.

L’implementazione di nuove tecnologie deve però essere progettata per non alimentare ulteriori rischi: ogni modello ha ipotesi incorporate che gli attori avversari tenteranno di sondare sistematicamente. Pertanto, i sistemi devono essere trattati come superfici di attacco fin dalla progettazione e sottoposti a test interni prima della produzione. Le difese basate su AI devono operare in millisecondi per individuare il rischio senza compromettere l’esperienza del cliente, valutando ogni transazione in tempo reale mediante centinaia di segnali confrontati con pattern storici per identificare anomalie.