Түсіндірілетін жасанды интеллект

Түсіндірілетін жасанды интеллект дегеніміз не?

Түсіндірілетін жасанды интеллект (XAI) — жасанды интеллект жүйелері қабылдаған шешімдерді адам түсінетін түрде негіздейтін әдістер мен тәсілдердің жиынтығына берілген атау. Жасанды интеллект модельдері қаржы, денсаулық сақтау, құқық және адам ресурстары сияқты маңызды салаларда шешім қабылдау процесіне барған сайын көбірек қатысуда. Алайда бұл модельдердің басым көпшілігі "қара жәшік" сияқты жұмыс істейді: модельдің қорытындыға қалай келгенін, қандай деректі қалай бағалағанын сырттан түсіну мүмкін емес. Түсіндірілетін жасанды интеллект осы қара жәшікті ашық әрі мөлдір етуді мақсат тұтады.

Бұл қажеттілік ең нақты түрін қаржылық шешімдерде көрсетеді. Егер жүйе несие өтінішін қабылдамаса, бір шығынды саясатқа қайшы деп белгілесе немесе бір шот-фактура төлемін күдікті деп тауып тоқтатса, бұл шешімнің негізін көру шешімнен зардап шеккен адамның да, сол шешімді қорғауға мәжбүр болатын қаржы тобының да құқығы. Негізі көрсетілмейтін шешім, қаншалықты дұрыс болса да, компания ішінде сенім емес, кедергі тудырады.

Қаржылық шешімдерде түсіндірілу неге маңызды?

Шығын мен жұмсау процестерінде жасанды интеллект қазір үш негізгі істе қолданылады: шығындарды автоматты жіктеу, әдеттен тыс операцияларды анықтау және шығын саясатына сәйкестікті бақылау. Бұл үш істің ортақ тұсы — нәтиже қызметкердің ақшасын, басшының бекіту жауапкершілігін және компанияның аудит құжатын тікелей әсер етеді. Сол себепті түсіндірілу қаржы операцияларында таңдау емес, жұмыс барысының алғышарты:

• Бекітуге сенім: Басшылар жүйенің "мақұлда" не "қабылдама" ұсынысының негізін көргенде шешімге сенеді; көре алмаған жағдайда әр ұсынысты қолмен қайта тексере бастайды және автоматтандыру үнемдеген уақыт қайта жоғалады.
• Қызметкер әділдігі: Шығыны қабылданбаған қызметкер "жүйе солай деді" деген жауаппен емес, "тұру шығыны топ саясатындағы жоғарғы шектен асып тұр" сияқты нақты негізбен бетпе-бет келуі керек. Негізсіз бас тарту жұмсау процесіне деген сенімді бұзады.
• Аудит ізі: Ішкі аудит не тәуелсіз аудит бір шығынның неге белгіленгенін немесе неге мақұлданғанын сұрағанда, шешімнің қай ережеге және қай деректерге негізделгенін кері бағытта көрсете білу қажет.
• Қате мен алалауды анықтау: Шешімнің негізі көрінетін болғанда, модельдің қате үлгіге бекінгенін (мысалы, белгілі бір бөлімнің шығындарын жүйелі түрде күдікті санауы) ерте байқап, түзетуге болады.
• Реттеуші сәйкестік: Еуропалық Одақтың Жасанды интеллект туралы заңы жоғары тәуекелді жүйелерде шешімдердің негізделетін және тексерілетін болуын талап етеді; Түркияда да дербес деректерді қорғау заңнамасы автоматты шешім процестерінде тұлғалардың хабардар болу құқығын кепілдендіреді.

Шығынды бекітудегі көрінетін негіз

Классикалық бекіту ағынында басшы шығын бабының тек сомасы мен санатын көреді; шешімді ішкі түйсігімен береді. Жасанды интеллект қолдайтын ағында жүйе әр бап үшін ұсыныс жасайды. Түсіндірілу мұнда мынаны білдіреді: ұсыныспен бірге сол ұсынысты тудырған факторлардың да көрсетілуі.

Мысалы, "бұл шығын бабы қаралсын" ұсынысының жанында чек күні мен сапар күндерінің сәйкес келмеуі, соманың сол санаттағы бұрынғы шығындардан айқын жоғары болуы немесе сол чектің бұрын басқа есепте пайдаланылуы сияқты негіздер тізіледі. Осылайша басшы шешімін тапсырмайды; жеделдетілген әрі негізделген шешім қабылдайды. Бұл айырмашылық маңызды: жақсы құрылған жүйеде соңғы сөз әрқашан адамда, жасанды интеллект тек шешімнің дайындығын жасайды.

Көрінетін негіздің тағы бір пайдасы — бюджет тарапында. Қай шығындардың қандай себептермен тоқтағаны есептелетін болғанда, қаржы тобы саясат мәтініндегі олқылықтарды көреді және бюджетті жоспарлауды нақты жұмсау мінез-құлқына сәйкес жаңартады.

Аномалияны анықтаудағы ашықтық: "Неге бұл операция?"

Әдеттен тыс шығындарды анықтайтын жүйелердің ең үлкен қаупі — негізсіз дабыл шығаруы. Негізсіз дабыл екі жақтан да шығынды: жалған дабылдар қаржы тобының уақытын жейді және біраз уақыттан кейін ескертулердің бәрі елеусіз қалдырыла бастайды; шынайы шығын алаяқтығы анықталғанда негіз көрсетілмесе, қызметкерге қойылатын сұрақ дәйексіз болып қалады.

Түсіндірілетін аномалия анықтауы әр ескертудің жанына "бұл операция неге әдеттен тыс" деген сұрақтың жауабын қояды: қайталанған чек, демалыс күніне сәйкес келген іскерлік түскі ас, саясаттағы жоғарғы шекке дәл шектен жақындайтын қайталанбалы шығындар сияқты. Осылайша ескерту айыптау емес, бірге қаралатын дәлел болады. Қаржы тобы нені неге қарайтынын біледі; қызметкер немен бетпе-бет тұрғанын көреді; аудитор процестің кездейсоқ емес, ережеге сай жүргенін жазбалардан растайды.

Аудитке дайын жасанды интеллект: жазба, негіз, шағым

Қаржы операцияларында түсіндірілуді тұрақты ету үшін үш практикалық тірек бар:

• Шешім жазбасы: Жасанды интеллект берген әр ұсыныс өз күні, негізделген деректері және қолданылған ережесімен бірге тіркелуі керек. Аудит кезінде "жүйе сол күні неге осылай шешім қабылдады" деген сұраққа кері бағытта әрі толық жауап беруге болатындай болуы тиіс.
• Мүдделі тарапқа қарай түсіндіру: Бір шешімнің негізі әртүрлі аудиторияға әртүрлі тереңдікте ұсынылуы керек. Қызметкер бір сөйлемдік түсінікті негіз, қаржы тобы ереже мен дерек тізбесін, аудитор ұштан-ұшқа бақыланатын жазбаны күтеді.
• Шағым тетігі: Автоматты белгіленген әр шешім үшін адамға жүгіну жолы ашық болуы керек. Шағымдар сонымен қатар модельдің қателерін көрсететін ең құнды кері байланыс көзі.

Бұл үштік түсіндірілуді техникалық қасиеттен корпоративтік сенім келісіміне айналдырады: жүйе шешім ұсынады, негізін көрсетеді, жазбасын жүргізеді және соңғы сөзді адамға қалдырады.

Жиі қойылатын сұрақтар

Түсіндірілу шығынды бекіту жылдамдығын төмендете ме?

Керісінше, арттырады. Негізсіз ұсыныстар басшыны әр бапты қолмен тексеруге итермелейді; негізделген ұсыныстар болса тек шынымен күдікті баптарда ғана тоқтауды қамтамасыз етеді. Түсіндіру — автоматтандыруды сеніммен пайдаланудың алғышарты.

Жасанды интеллект белгілеген әр шығын алаяқтық па?

Жоқ. Белгі — үкім емес, қарау шақыруы. Қайталанған чек көбіне ұқыпсыздықтан, саясат асып кету көбіне ескірген ережеден туындайды. Түсіндірілу дәл осы айырмашылықты тез жасауға мүмкіндік береді.

Шағын және орта кәсіпорындар үшін де маңызды ма?

Иә. Жұмсау көлемі аз болса да, негізсіз шешім проблемасы бірдей. Дайын шығын басқару шешімдері ереже мен негіз көрсетуді өз құрылымында ұсынатындықтан, бөлек әзірлеу инвестициясын қажет етпейді.

Түсіндірілудің ең үлкен қиындығы неде?

Дәлдік пен түсініктілік теңгерімінде. Күрделірек модельдер әдетте дәлірек нәтиже береді, бірақ негізін көрсету қиындай түседі. Қаржылық процестерде теңгерім негізі көрсетілетін жақта құрылуы керек; өйткені қорғауға келмейтін шешім, дұрыс болса да, аудитте және қызметкер көзінде құнсыз.

Шығын шешімдеріңізді ашық етіңіз

Түсіндірілетін жасанды интеллект — қаржы операцияларында сенімнің іргетасы: бекітулер жылдамдайды, ескертулер негізді болады, аудит құжаты өзінен-өзі құралады. Masraff-тің шығын басқару шешімі шығынды жіктеуден саясат бақылауына дейін созылатын ақылды мүмкіндіктерін осы ашықтық қағидасымен ұсынады. Процестеріңізді орнында көру үшін бізбен байланысыңыз.