Förklarbar Artificiell Intelligens

Vad är förklarbar artificiell intelligens?

Förklarbar artificiell intelligens (XAI) är namnet på samtliga metoder och tekniker som motiverar de beslut system med artificiell intelligens fattar på ett sätt som människor kan förstå. Modeller för artificiell intelligens involveras allt oftare i beslutsprocesser inom kritiska områden som finans, sjukvård, juridik och personal. De allra flesta av dessa modeller fungerar dock som en "svart låda": hur modellen nådde ett resultat, och vilka data den bedömde och på vilket sätt, går inte att förstå utifrån. Förklarbar artificiell intelligens syftar till att göra denna svarta låda transparent.

Behovet visar sig som tydligast i finansiella beslut. Om ett system avslår en kreditansökan, flaggar en utgift som utanför policyn eller finner en fakturabetalning misstänkt och stoppar den, är det både den berörda personens och det finansteams rätt som måste försvara beslutet att se motiveringen. Ett beslut vars motivering inte kan visas skapar, hur träffsäkert det än är, friktion snarare än förtroende inom företaget.

Varför är förklarbarhet avgörande i finansiella beslut?

I utgifts- och kostnadsprocesser används artificiell intelligens numera till tre grundläggande uppgifter: att automatiskt klassificera utgifter, att fånga upp avvikande transaktioner och att granska efterlevnaden av utgiftspolicyn. Det dessa tre uppgifter har gemensamt är att resultatet direkt påverkar en anställds pengar, en chefs godkännandeansvar och företagets granskningsakt. Förklarbarhet är därför inte ett val i finansiella processer utan en förutsättning för att verksamheten ska fungera:

• Förtroende för godkännande: När chefer ser motiveringen bakom systemets rekommendation "godkänn" eller "avslå" litar de på beslutet; när de inte ser den börjar de granska varje rekommendation manuellt igen, och den tid automatiseringen sparade går förlorad på nytt.
• Rättvisa mot den anställde: En anställd vars utgift avslås ska inte mötas av svaret "systemet sa så", utan av en konkret motivering som "logiposten överskrider teampolicyns övre gräns". Ett omotiverat avslag skadar förtroendet för utgiftsprocessen.
• Granskningsspår: När intern eller oberoende revision frågar varför en utgift flaggades eller varför den godkändes, måste det i efterhand gå att visa vilken regel och vilka data beslutet grundades på.
• Upptäckt av fel och partiskhet: När beslutets motivering är synlig upptäcks tidigt att modellen låst sig vid ett felaktigt mönster (till exempel att systematiskt betrakta en viss avdelnings utgifter som misstänkta) och det rättas till.
• Regelefterlevnad: Europeiska unionens förordning om artificiell intelligens kräver att beslut i högrisksystem ska kunna motiveras och granskas; även i Turkiet garanterar lagstiftningen om skydd av personuppgifter individers rätt till information i automatiserade beslutsprocesser.

Synlig motivering vid utgiftsgodkännande

I det klassiska godkännandeflödet ser chefen bara utgiftspostens belopp och kategori och fattar sitt beslut på intuition. I ett flöde med stöd av artificiell intelligens genererar systemet däremot en rekommendation för varje post. Förklarbarhet innebär här att de faktorer som gav upphov till rekommendationen visas tillsammans med själva rekommendationen.

Bredvid rekommendationen "denna utgiftspost bör granskas" radas till exempel motiveringar upp som att kvittots datum inte stämmer med resedatumen, att beloppet tydligt ligger över tidigare utgifter i samma kategori, eller att samma kvitto redan använts i en annan rapport. Chefen delegerar därmed inte sitt beslut; hen fattar ett påskyndat och motiverat beslut. Denna åtskillnad är viktig: i ett välkonstruerat system har människan alltid sista ordet, artificiell intelligens förbereder bara beslutet.

Den synliga motiveringen ger även en vinst på budgetsidan. När det går att rapportera vilka utgifter som fastnat och av vilka skäl ser finansteamet luckorna i policytexten och uppdaterar budgetplaneringen efter det verkliga utgiftsbeteendet.

Transparens vid avvikelsedetektering: "Varför just denna transaktion?"

Den största risken med system som fångar ovanliga utgifter är att de genererar omotiverade larm. Omotiverade larm är kostsamma åt båda håll: falsklarm tär på finansteamets tid och efter en tid börjar alla varningar ignoreras; och när en verklig utgiftsmissbruk fångas blir frågan till den anställde grundlös om ingen motivering kan visas.

En förklarbar avvikelsedetektering placerar bredvid varje varning svaret på frågan "varför är denna transaktion ovanlig": dubblerat kvitto, en affärsmåltid som infaller på en helg, upprepade utgifter som ligger precis vid policyns övre gräns. Därmed blir varningen inte en anklagelse utan ett fynd att granska tillsammans. Finansteamet vet vad det granskar och varför; den anställde ser vad hen står inför; och revisorn bekräftar utifrån loggarna att processen löper enligt regler och inte godtyckligt.

Granskningsklar artificiell intelligens: registrering, motivering, överklagande

Att göra förklarbarhet varaktig i finansiella processer vilar på tre praktiska ben:

• Beslutsregistrering: Varje rekommendation som den artificiella intelligensen ger ska registreras tillsammans med sitt datum, de data den grundades på och den tillämpade regeln. Vid granskning ska frågan "varför beslutade systemet så den dagen" kunna besvaras i efterhand och fullständigt.
• Förklaring efter intressent: Motiveringen till samma beslut ska ges olika målgrupper på olika djup. Den anställde förväntar sig en begriplig motivering på en mening, finansteamet en regel- och datauppställning, och revisorn en spårbar registrering från början till slut.
• Överklagandemekanism: För varje automatiskt flaggat beslut måste vägen till en mänsklig prövning vara öppen. Överklaganden är samtidigt den mest värdefulla återkopplingskällan som avslöjar modellens fel.

Denna treenighet förvandlar förklarbarhet från en teknisk egenskap till ett institutionellt förtroendekontrakt: systemet föreslår ett beslut, visar sin motivering, för sin logg och lämnar sista ordet åt människan.

Vanliga frågor

Sänker förklarbarhet hastigheten på utgiftsgodkännande?

Tvärtom, den höjer den. Omotiverade rekommendationer tvingar chefen att granska varje post manuellt; motiverade rekommendationer gör att man stannar upp bara vid poster som verkligen är misstänkta. Förklaring är en förutsättning för att automatisering ska kunna användas med förtroende.

Är varje utgift som den artificiella intelligensen flaggar ett missbruk?

Nej. Flaggan är en kallelse till granskning, inte en dom. Ett dubblerat kvitto beror oftast på ouppmärksamhet, en policyöverträdelse oftast på en inaktuell regel. Förklarbarhet är just det som gör att denna åtskillnad kan göras snabbt.

Gäller det även för små och medelstora företag?

Ja. Även om utgiftsvolymen är liten är problemet med omotiverade beslut detsamma. Färdiga lösningar för utgiftshantering erbjuder regel- och motiveringsvisning inbyggt och kräver därför ingen separat utvecklingsinvestering.

Vad är den största utmaningen med förklarbarhet?

Det är balansen mellan träffsäkerhet och begriplighet. Mer komplexa modeller ger i allmänhet mer träffsäkra resultat men blir svårare att motivera. I finansiella processer bör balansen sättas på den sida vars motivering går att visa; för ett beslut som inte kan försvaras är, även om det är träffsäkert, värdelöst vid granskning och i den anställdes ögon.

Gör dina utgiftsbeslut transparenta

Förklarbar artificiell intelligens är förtroendets infrastruktur i finansiella processer: godkännanden går fortare, varningar blir motiverade och granskningsakten byggs upp av sig själv. Masraffs lösning för utgiftshantering levererar sina smarta funktioner, från utgiftsklassificering till policykontroll, enligt denna transparensprincip. För att se dina processer på plats, kontakta oss.