Intelligenza Artificiale Spiegabile

Che cos'è l'intelligenza artificiale spiegabile?

L'intelligenza artificiale spiegabile (XAI) è il nome dato all'insieme di metodi e tecniche che giustificano le decisioni prese dai sistemi di intelligenza artificiale in un modo comprensibile per le persone. I modelli di intelligenza artificiale vengono coinvolti sempre più nei processi decisionali di ambiti critici come finanza, sanità, diritto e risorse umane. Tuttavia, la maggior parte di questi modelli funziona come una "scatola nera": dall'esterno non si capisce come il modello sia arrivato a un risultato né quali dati abbia valutato e in che modo. L'intelligenza artificiale spiegabile mira a rendere trasparente questa scatola nera.

Questa esigenza si manifesta nella sua forma più concreta nelle decisioni finanziarie. Se un sistema respinge una richiesta di credito, contrassegna una spesa come non conforme alla policy o blocca il pagamento di una fattura ritenendolo sospetto, vedere la motivazione di quella decisione è un diritto sia della persona che ne subisce l'effetto sia del team finanziario che dovrà difenderla. Una decisione di cui non si può mostrare la motivazione, per quanto accurata, genera all'interno dell'azienda attrito e non fiducia.

Perché la spiegabilità è cruciale nelle decisioni finanziarie?

Nei processi di spesa e di gestione dei costi l'intelligenza artificiale viene ormai utilizzata per tre attività fondamentali: classificare automaticamente le spese, individuare le operazioni anomale e verificare la conformità alla policy delle spese. Il punto in comune di queste tre attività è il seguente: il risultato incide direttamente sul denaro di un dipendente, sulla responsabilità di approvazione di un manager e sul fascicolo di audit dell'azienda. Per questo, nelle operazioni finanziarie la spiegabilità non è una preferenza, ma una condizione preliminare del funzionamento:

• Fiducia nell'approvazione: i manager si fidano della decisione quando vedono la motivazione del suggerimento "approva" o "rifiuta" del sistema; quando non la vedono, ricominciano a riesaminare manualmente ogni suggerimento e il tempo guadagnato con l'automazione viene nuovamente perso.
• Equità verso il dipendente: il dipendente a cui viene respinta una spesa non deve ricevere la risposta "lo ha deciso il sistema", ma una motivazione concreta come "la voce di alloggio supera il limite massimo previsto dalla policy del team". Un rifiuto senza motivazione mina la fiducia nel processo di spesa.
• Traccia di audit: quando l'audit interno o l'audit indipendente chiede perché una spesa sia stata contrassegnata o approvata, deve essere possibile mostrare a posteriori su quale regola e su quali dati si sia basata la decisione.
• Rilevamento di errori e pregiudizi: quando la motivazione della decisione è visibile, ci si accorge presto se il modello si è bloccato su uno schema errato (ad esempio considerando sistematicamente sospette le spese di un determinato reparto) e lo si corregge.
• Conformità normativa: il Regolamento sull'Intelligenza Artificiale dell'Unione Europea impone che, nei sistemi ad alto rischio, le decisioni siano giustificabili e verificabili; anche in Turchia la normativa sulla protezione dei dati personali garantisce il diritto delle persone a essere informate nei processi decisionali automatizzati.

Motivazione visibile nell'approvazione delle spese

Nel flusso di approvazione classico il manager vede soltanto l'importo e la categoria della voce di spesa e decide d'istinto. In un flusso supportato dall'intelligenza artificiale, invece, il sistema produce un suggerimento per ogni voce. Qui la spiegabilità significa: mostrare, insieme al suggerimento, anche i fattori che lo hanno generato.

Ad esempio, accanto al suggerimento "questa voce di spesa va esaminata" vengono elencate motivazioni come il fatto che la data dello scontrino non coincida con le date del viaggio, che l'importo sia nettamente superiore alle spese passate della stessa categoria oppure che lo stesso scontrino sia già stato utilizzato in un altro report. Il manager, così, non delega la decisione: prende una decisione accelerata e motivata. Questa distinzione è importante: in un sistema ben progettato l'ultima parola spetta sempre all'essere umano, l'intelligenza artificiale si limita a preparare la decisione.

Un ulteriore vantaggio della motivazione visibile riguarda il lato del budget. Quando è possibile riportare quali spese si sono bloccate e per quali motivi, il team finanziario individua le lacune nel testo della policy e aggiorna la pianificazione del budget in base al reale comportamento di spesa.

Trasparenza nel rilevamento delle anomalie: "perché proprio questa operazione?"

Il rischio maggiore dei sistemi che intercettano le spese anomale è generare allarmi senza motivazione. Un allarme senza motivazione è costoso in entrambe le direzioni: i falsi allarmi consumano il tempo del team finanziario e, dopo un po', si iniziano a ignorare tutti gli avvisi; quando invece viene intercettato un vero abuso di spesa, se non si può mostrare la motivazione la domanda da rivolgere al dipendente resta priva di fondamento.

Un rilevamento delle anomalie spiegabile affianca a ogni avviso la risposta alla domanda "perché questa operazione è anomala": scontrino duplicato, pranzo di lavoro che cade nel fine settimana, spese ripetute che si avvicinano esattamente al limite massimo della policy, e così via. In questo modo l'avviso non diventa un'accusa, ma un riscontro da esaminare insieme. Il team finanziario sa cosa sta esaminando e perché; il dipendente vede a cosa si trova di fronte; il revisore conferma dai registri che il processo funziona secondo regole e non in modo arbitrario.

Intelligenza artificiale pronta per l'audit: registro, motivazione, contestazione

Rendere permanente la spiegabilità nelle operazioni finanziarie poggia su tre pilastri pratici:

• Registro delle decisioni: ogni suggerimento fornito dall'intelligenza artificiale deve essere registrato insieme alla data, ai dati su cui si basa e alla regola applicata. Al momento dell'audit, la domanda "perché quel giorno il sistema ha deciso così" deve poter ricevere una risposta retrospettiva e completa.
• Spiegazione in base allo stakeholder: la motivazione della stessa decisione deve essere presentata ai diversi destinatari con profondità diversa. Il dipendente si aspetta una motivazione comprensibile di una sola frase, il team finanziario un dettaglio di regole e dati, il revisore un registro tracciabile end-to-end.
• Meccanismo di contestazione: per ogni decisione contrassegnata automaticamente deve restare aperta la via del ricorso a una persona. Le contestazioni sono al tempo stesso la fonte di feedback più preziosa per evidenziare gli errori del modello.

Questa triade trasforma la spiegabilità da una caratteristica tecnica a un patto di fiducia aziendale: il sistema propone una decisione, ne mostra la motivazione, ne conserva il registro e lascia l'ultima parola all'essere umano.

Domande frequenti

La spiegabilità riduce la velocità dell'approvazione delle spese?

Al contrario, la aumenta. I suggerimenti senza motivazione spingono il manager a esaminare manualmente ogni voce; i suggerimenti motivati, invece, fanno sì che ci si soffermi solo sulle voci davvero sospette. La spiegazione è la condizione preliminare affinché l'automazione possa essere usata con fiducia.

Ogni spesa contrassegnata dall'intelligenza artificiale è un abuso?

No. Il contrassegno non è una sentenza, ma un invito all'esame. Uno scontrino duplicato deriva il più delle volte da una distrazione, il superamento della policy il più delle volte da una regola non aggiornata. La spiegabilità consente proprio di fare rapidamente questa distinzione.

Vale anche per le piccole e medie imprese?

Sì. Anche se il volume di spesa è ridotto, il problema delle decisioni senza motivazione è lo stesso. Le soluzioni di gestione delle spese già pronte offrono al proprio interno la visualizzazione di regole e motivazioni, quindi non richiedono un ulteriore investimento di sviluppo.

Qual è la sfida più grande della spiegabilità?

È l'equilibrio tra accuratezza e comprensibilità. I modelli più complessi di solito danno risultati più precisi, ma mostrarne la motivazione diventa più difficile. Nei processi finanziari l'equilibrio va costruito dal lato in cui la motivazione può essere mostrata; perché una decisione non difendibile, anche se accurata, è priva di valore in sede di audit e agli occhi del dipendente.

Rendete trasparenti le vostre decisioni di spesa

L'intelligenza artificiale spiegabile è l'infrastruttura della fiducia nelle operazioni finanziarie: le approvazioni si velocizzano, gli avvisi diventano motivati, il fascicolo di audit si costruisce da solo. La soluzione di gestione delle spese di Masraff offre le sue funzionalità intelligenti, dalla classificazione delle spese al controllo della policy, secondo questo principio di trasparenza. Per vedere i vostri processi sul campo, contattateci.