Тлумачальны Штучны Інтэлект

Што такое тлумачальны штучны інтэлект?

Тлумачальны штучны інтэлект (XAI) — гэта назва ўсёй сукупнасці метадаў і тэхнік, якія абгрунтоўваюць рашэнні, прынятыя сістэмамі штучнага інтэлекту, у зразумелай для чалавека форме. Мадэлі штучнага інтэлекту ўсё часцей уключаюцца ў працэсы прыняцця рашэнняў у такіх крытычных сферах, як фінансы, ахова здароўя, права і кадры. Аднак пераважная большасць гэтых мадэляў працуе як «чорная скрыня»: звонку немагчыма зразумець, як мадэль дайшла да пэўнага выніку і якія даныя і якім чынам яна ацаніла. Тлумачальны штучны інтэлект імкнецца зрабіць гэтую чорную скрыню празрыстай.

Найбольш выразна гэтая патрэба праяўляецца ў фінансавых рашэннях. Калі сістэма адхіляе крэдытную заяўку, пазначае выдатак як не адпаведны палітыцы або лічыць плацёж па рахунку падазроным і спыняе яго, то бачыць абгрунтаванне гэтага рашэння — права як асобы, якой яно тычыцца, так і фінансавай каманды, якая будзе вымушана яго абараняць. Рашэнне, абгрунтаванне якога нельга паказаць, якім бы дакладным яно ні было, спараджае ў кампаніі не давер, а трэнне.

Чаму тлумачальнасць крытычна важная ў фінансавых рашэннях?

У працэсах выдаткаў і затрат штучны інтэлект цяпер выкарыстоўваецца для трох асноўных задач: аўтаматычна класіфікаваць выдаткі, выяўляць незвычайныя аперацыі і правяраць адпаведнасць палітыцы выдаткаў. Агульнае ў гэтых трох задачах тое, што вынік напрамую ўплывае на грошы супрацоўніка, на адказнасць кіраўніка за зацвярджэнне і на аўдытарскую справу кампаніі. Таму тлумачальнасць у фінансавых аперацыях — не выбар, а перадумова працы:

• Давер да зацвярджэння: Калі кіраўнікі бачаць абгрунтаванне рэкамендацыі сістэмы «зацвердзіць» або «адхіліць», яны давяраюць рашэнню; калі не бачаць — пачынаюць нанова ўручную правяраць кожную рэкамендацыю, і час, зэканомлены аўтаматызацыяй, губляецца зноў.
• Справядлівасць да супрацоўніка: Супрацоўнік, чый выдатак адхілены, павінен сустрэцца не з адказам «так сказала сістэма», а з канкрэтным абгрунтаваннем накшталт «пункт пражывання перавышае верхнюю мяжу ў палітыцы каманды». Неабгрунтаванае адхіленне падрывае давер да працэсу выдаткаў.
• Аўдытарскі след: Калі ўнутраны або незалежны аўдыт пытаецца, чаму выдатак быў пазначаны або чаму зацверджаны, трэба мець магчымасць рэтраспектыўна паказаць, на якім правіле і якіх даных грунтавалася рашэнне.
• Выяўленне памылак і прадузятасці: Калі абгрунтаванне рашэння бачнае, рана заўважаецца і выпраўляецца тое, што мадэль замкнулася на памылковай заканамернасці (напрыклад, сістэматычна лічыць выдаткі пэўнага аддзела падазронымі).
• Рэгулятарная адпаведнасць: Закон Еўрапейскага саюза аб штучным інтэлекце патрабуе, каб рашэнні ў сістэмах высокай рызыкі можна было абгрунтаваць і праверыць; у Турцыі заканадаўства аб абароне персанальных даных таксама гарантуе права асоб на інфармаванне ў працэсах аўтаматычнага прыняцця рашэнняў.

Бачнае абгрунтаванне пры зацвярджэнні выдаткаў

У класічным працэсе зацвярджэння кіраўнік бачыць толькі суму і катэгорыю пункта выдаткаў і прымае рашэнне па інтуіцыі. У працэсе з падтрымкай штучнага інтэлекту сістэма генеруе рэкамендацыю для кожнага пункта. Тлумачальнасць тут азначае: разам з рэкамендацыяй паказваюцца і фактары, якія яе спарадзілі.

Напрыклад, побач з рэкамендацыяй «гэты пункт выдаткаў варта праверыць» пералічваюцца абгрунтаванні: дата чэка не супадае з датамі паездкі, сума выразна перавышае мінулыя выдаткі ў той жа катэгорыі або той жа чэк ужо выкарыстоўваўся ў іншай справаздачы. Кіраўнік такім чынам не перадае сваё рашэнне; ён прымае паскоранае і абгрунтаванае рашэнне. Гэтае адрозненне важнае: у добра пабудаванай сістэме апошняе слова заўсёды за чалавекам, а штучны інтэлект толькі рыхтуе рашэнне.

Бачнае абгрунтаванне дае яшчэ адзін выйгрыш з боку бюджэту. Калі можна справаздачыцца, якія выдаткі затрымаліся і па якіх прычынах, фінансавая каманда бачыць прабелы ў тэксце палітыкі і абнаўляе планаванне бюджэту паводле рэальнай паводзінаў выдаткаў.

Празрыстасць пры выяўленні анамалій: «Чаму менавіта гэтая аперацыя?»

Найбольшая рызыка сістэм, якія выяўляюць незвычайныя выдаткі, — гэта генерацыя неабгрунтаваных сігналаў трывогі. Неабгрунтаваны сігнал каштоўны ў абодвух напрамках: ілжывыя сігналы паглынаюць час фінансавай каманды, і праз нейкі час усе папярэджанні пачынаюць ігнаравацца; а калі выяўлена сапраўднае злоўжыванне выдаткамі, пытанне да супрацоўніка застаецца безпадстаўным, калі абгрунтаванне нельга паказаць.

Тлумачальнае выяўленне анамалій змяшчае побач з кожным папярэджаннем адказ на пытанне «чаму гэтая аперацыя незвычайная»: дублікат чэка, дзелавы абед, які прыпаў на выхадны, паўторныя выдаткі, якія ўпрытык набліжаюцца да верхняй мяжы ў палітыцы. Так папярэджанне становіцца не абвінавачваннем, а знаходкай, якую разглядаюць разам. Фінансавая каманда ведае, што і чаму правярае; супрацоўнік бачыць, з чым мае справу; а аўдытар пацвярджае па запісах, што працэс ідзе паводле правілаў, а не адвольна.

Гатовы да аўдыту штучны інтэлект: запіс, абгрунтаванне, абскарджанне

Зрабіць тлумачальнасць трывалай у фінансавых аперацыях дапамагаюць тры практычныя апоры:

• Запіс рашэння: Кожная рэкамендацыя, дадзеная штучным інтэлектам, павінна фіксавацца разам з датай, данымі, на якіх яна грунтавалася, і прыменена́ым правілам. Падчас аўдыту пытанне «чаму сістэма ў той дзень вырашыла менавіта так» павінна быць адказана рэтраспектыўна і поўнасцю.
• Тлумачэнне паводле зацікаўленага боку: Абгрунтаванне аднаго і таго ж рашэння павінна падавацца розным аўдыторыям на рознай глыбіні. Супрацоўнік чакае зразумелага абгрунтавання ў адзін сказ, фінансавая каманда — вынятку правіла і даных, а аўдытар — праслежвальнага запісу ад пачатку да канца.
• Механізм абскарджання: Для кожнага аўтаматычна пазначанага рашэння шлях да разгляду чалавекам павінен быць адкрыты. Абскарджанні адначасова з'яўляюцца найбольш каштоўнай крыніцай зваротнай сувязі, якая паказвае памылкі мадэлі.

Гэтая тройца ператварае тлумачальнасць з тэхнічнай уласцівасці ў інстытуцыйны кантракт даверу: сістэма прапануе рашэнне, паказвае яго абгрунтаванне, вядзе запіс і пакідае апошняе слова за чалавекам.

Частыя пытанні

Ці зніжае тлумачальнасць хуткасць зацвярджэння выдаткаў?

Наадварот, павышае. Неабгрунтаваныя рэкамендацыі змушаюць кіраўніка правяраць кожны пункт уручную; абгрунтаваныя рэкамендацыі дазваляюць спыняцца толькі на сапраўды падазроных пунктах. Тлумачэнне — перадумова таго, каб аўтаматызацыяй можна было карыстацца з даверам.

Ці кожны выдатак, пазначаны штучным інтэлектам, з'яўляецца злоўжываннем?

Не. Пазнака — гэта заклік да праверкі, а не прысуд. Дублікат чэка часцей за ўсё ўзнікае праз няўважлівасць, а перавышэнне палітыкі — праз неактуальнае правіла. Тлумачальнасць якраз і дазваляе хутка зрабіць гэтае адрозненне.

Ці дзейнічае гэта і для малых і сярэдніх прадпрыемстваў?

Так. Нават калі аб'ём выдаткаў малы, праблема неабгрунтаваных рашэнняў тая ж. Гатовыя рашэнні для кіравання выдаткамі прапануюць паказ правіла і абгрунтавання ў сваёй структуры, таму не патрабуюць асобных інвестыцый у распрацоўку.

Якая найбольшая цяжкасць тлумачальнасці?

Гэта баланс паміж дакладнасцю і зразумеласцю. Больш складаныя мадэлі звычайна даюць больш дакладны вынік, але паказаць іх абгрунтаванне цяжэй. У фінансавых працэсах баланс трэба ўсталёўваць на баку, чыё абгрунтаванне можна паказаць; бо рашэнне, якое нельга абараніць, нават калі яно дакладнае, бязвартаснае пры аўдыце і ў вачах супрацоўніка.

Зрабіце свае рашэнні па выдатках празрыстымі

Тлумачальны штучны інтэлект — гэта інфраструктура даверу ў фінансавых аперацыях: зацвярджэнні паскараюцца, папярэджанні становяцца абгрунтаванымі, аўдытарская справа фарміруецца сама сабой. Рашэнне Masraff для кіравання выдаткамі прадстаўляе свае разумныя функцыі — ад класіфікацыі выдаткаў да кантролю палітыкі — паводле гэтага прынцыпу празрыстасці. Каб убачыць свае працэсы на месцы, звяжыцеся з намі.