Обясним изкуствен интелект

Какво е обясним изкуствен интелект?

Обяснимият изкуствен интелект (XAI) е името, дадено на съвкупността от методи и техники, които обосновават решенията, вземани от системите с изкуствен интелект, по разбираем за хората начин. Моделите с изкуствен интелект все повече се включват в процесите на вземане на решения в критични области като финанси, здравеопазване, право и човешки ресурси. Голямата част от тези модели обаче работят като „черна кутия“: отвън не може да се разбере как моделът е стигнал до даден резултат, кои данни и по какъв начин е оценил. Обяснимият изкуствен интелект има за цел да направи тази черна кутия прозрачна.

Тази необходимост се проявява най-осезаемо при финансовите решения. Ако една система отхвърли заявка за кредит, отбележи разход като извън политиката или спре плащане на фактура, приемайки я за подозрителна, това да се види обосновката на решението е право както на засегнатия от него човек, така и на финансовия екип, който ще трябва да го защитава. Решение, чиято обосновка не може да бъде показана, колкото и точно да е, поражда във фирмата не доверие, а триене.

Защо обяснимостта е критична при финансовите решения?

В процесите по управление на разходите изкуственият интелект вече се използва за три основни задачи: автоматично класифициране на разходите, улавяне на необичайните операции и проверка на съответствието с политиката за разходите. Общото между тези три задачи е следното: резултатът засяга пряко парите на служителя, отговорността на ръководителя за одобрение и одиторското досие на фирмата. Затова във финансовите операции обяснимостта не е предпочитание, а предварително условие за функционирането:

• Доверие в одобрението: ръководителите се доверяват на решението, когато виждат обосновката на предложението „одобри“ или „отхвърли“ на системата; когато не я виждат, започват отново да преразглеждат ръчно всяко предложение и спестеното от автоматизацията време се губи отново.
• Справедливост към служителя: служителят, чийто разход е отхвърлен, трябва да получи не отговора „системата така каза“, а конкретна обосновка като „перото за настаняване надвишава горната граница в политиката на екипа“. Отказ без обосновка накърнява доверието в процеса на разходите.
• Одиторска следа: когато вътрешният или независимият одит попита защо даден разход е бил отбелязан или одобрен, трябва да може да се покаже впоследствие на кое правило и на кои данни се е основавало решението.
• Откриване на грешки и пристрастия: когато обосновката на решението е видима, рано се забелязва и се коригира, ако моделът се е фиксирал върху погрешна закономерност (например систематично да смята за подозрителни разходите на определен отдел).
• Регулаторно съответствие: Законът за изкуствения интелект на Европейския съюз изисква в системите с висок риск решенията да бъдат обосновими и проверими; в Турция законодателството за защита на личните данни също гарантира правото на хората да бъдат информирани в процесите на автоматично вземане на решения.

Видима обосновка при одобрението на разходите

В класическия процес на одобрение ръководителят вижда само сумата и категорията на разходното перо и взема решение по интуиция. При процес, подпомогнат от изкуствен интелект, системата генерира предложение за всяко перо. Обяснимостта тук означава: заедно с предложението да се показват и факторите, които са го породили.

Например до предложението „това разходно перо да бъде проверено“ се изреждат обосновки като това, че датата на касовата бележка не съвпада с датите на пътуването, че сумата е значително над миналите разходи от същата категория или че същата касова бележка вече е използвана в друг отчет. Така ръководителят не делегира решението, а взема ускорено и обосновано решение. Това разграничение е важно: в добре изградена система последната дума винаги е на човека, а изкуственият интелект само подготвя решението.

Още една полза от видимата обосновка е откъм бюджета. Когато може да се отчете кои разходи по какви причини са се спрели, финансовият екип вижда пропуските в текста на политиката и актуализира планирането на бюджета според реалното поведение на разходите.

Прозрачност при откриването на аномалии: „защо точно тази операция?“

Най-големият риск на системите, които улавят необичайните разходи, е да генерират сигнали без обосновка. Сигнал без обосновка е скъп и в двете посоки: фалшивите сигнали изразходват времето на финансовия екип и след време всички предупреждения започват да се пренебрегват; а когато се улови истинска злоупотреба с разходи, ако обосновката не може да се покаже, въпросът към служителя остава без основание.

Едно обяснимо откриване на аномалии поставя до всяко предупреждение отговора на въпроса „защо тази операция е необичайна“: дублирана касова бележка, служебен обяд, паднал се през уикенда, повтарящи се разходи, приближаващи се точно до горната граница на политиката, и подобни. Така предупреждението се превръща не в обвинение, а в находка, която да се разгледа заедно. Финансовият екип знае какво и защо проверява; служителят вижда с какво е изправен; а одиторът потвърждава от записите, че процесът работи по правила, а не произволно.

Готов за одит изкуствен интелект: запис, обосновка, възражение

Постоянното превръщане на обяснимостта в част от финансовите операции стъпва на три практически стълба:

• Запис на решенията: всяко предложение, дадено от изкуствения интелект, трябва да се записва заедно с датата, данните, на които се основава, и приложеното правило. В момента на одита въпросът „защо системата онзи ден реши така“ трябва да може да получи ретроспективен и изчерпателен отговор.
• Обяснение според заинтересованата страна: обосновката на едно и също решение трябва да се представя на различните аудитории с различна дълбочина. Служителят очаква разбираема обосновка от едно изречение, финансовият екип — извадка от правила и данни, а одиторът — проследима от край до край запис.
• Механизъм за възражение: за всяко автоматично отбелязано решение трябва да остава отворен пътят за обръщане към човек. Възраженията същевременно са най-ценният източник на обратна връзка, който показва грешките на модела.

Тази тройка превръща обяснимостта от техническа характеристика в корпоративен договор за доверие: системата предлага решение, показва обосновката му, води записа му и оставя последната дума на човека.

Често задавани въпроси

Обяснимостта намалява ли скоростта на одобрението на разходите?

Напротив, повишава я. Предложенията без обосновка тласкат ръководителя да преглежда ръчно всяко перо; обоснованите предложения пък позволяват да се спира само на наистина подозрителните пера. Обяснението е предварителното условие автоматизацията да може да се използва с доверие.

Всеки разход, отбелязан от изкуствения интелект, злоупотреба ли е?

Не. Отбелязването не е присъда, а покана за проверка. Дублираната касова бележка най-често се дължи на разсеяност, надвишаването на политиката — най-често на неактуално правило. Обяснимостта позволява точно това разграничение да се направи бързо.

Важи ли и за малките и средните предприятия?

Да. Дори обемът на разходите да е малък, проблемът с решенията без обосновка е същият. Готовите решения за управление на разходите предлагат показването на правила и обосновки в собствения си състав, затова не изискват допълнителна инвестиция в разработка.

Кое е най-голямото предизвикателство на обяснимостта?

Това е балансът между точност и разбираемост. По-сложните модели обикновено дават по-точен резултат, но да се покаже обосновката им става по-трудно. Във финансовите процеси балансът трябва да се изгради на страната, на която обосновката може да се покаже; защото решение, което не може да се защити, дори да е точно, е без стойност при одита и в очите на служителя.

Направете разходните си решения прозрачни

Обяснимият изкуствен интелект е инфраструктурата на доверието във финансовите операции: одобренията се ускоряват, предупрежденията стават обосновани, одиторското досие се формира от само себе си. Решението на Masraff за управление на разходите предлага интелигентните си възможности — от класифицирането на разходите до контрола на политиката — на основата на този принцип на прозрачност. За да видите процесите си на място, свържете се с нас.