الذكاء الاصطناعي القابل للتفسير

ما هو الذكاء الاصطناعي القابل للتفسير؟

الذكاء الاصطناعي القابل للتفسير (XAI) هو الاسم الذي يُطلق على مجمل الأساليب والتقنيات التي تجعل القرارات التي تتخذها أنظمة الذكاء الاصطناعي مبرَّرة بشكل يمكن للبشر فهمه. تدخل نماذج الذكاء الاصطناعي بشكل متزايد في عمليات اتخاذ القرار في مجالات حيوية مثل المالية والصحة والقانون والموارد البشرية. غير أن الغالبية العظمى من هذه النماذج تعمل كـ«صندوق أسود»: لا يمكن فهم كيف وصل النموذج إلى نتيجة معينة، ولا أي بيانات قيّمها وبأي طريقة، من الخارج. يهدف الذكاء الاصطناعي القابل للتفسير إلى جعل هذا الصندوق الأسود شفافاً.

تظهر هذه الحاجة في أوضح صورها في القرارات المالية. فإذا كان نظام ما يرفض طلب ائتمان، أو يضع علامة على نفقة بأنها خارج السياسة، أو يجد دفعة فاتورة مريبة فيوقفها، فإن رؤية مبرر هذا القرار حق لكل من الشخص المتأثر بالقرار ولفريق المالية الذي سيضطر إلى الدفاع عن ذلك القرار. القرار الذي لا يمكن إظهار مبرره، مهما كان صائباً، يُنتج داخل الشركة احتكاكاً لا ثقة.

لماذا تُعدّ القابلية للتفسير حاسمة في القرارات المالية؟

في عمليات المصروفات والنفقات، بات الذكاء الاصطناعي يُستخدم في ثلاث مهام أساسية: تصنيف النفقات تلقائياً، ورصد المعاملات غير المعتادة، وتدقيق الالتزام بـسياسة النفقات. القاسم المشترك بين هذه المهام الثلاث هو أن النتيجة تؤثر مباشرة في مال الموظف، وفي مسؤولية المدير عن الاعتماد، وفي ملف تدقيق الشركة. لذلك فإن القابلية للتفسير في العمليات المالية ليست خياراً بل شرطاً مسبقاً لسير العمل:

• الثقة في الاعتماد: حين يرى المديرون مبرر توصية النظام بـ«اعتمِد» أو «ارفض»، يثقون بالقرار؛ وحين لا يرونه يبدؤون بإعادة فحص كل توصية يدوياً، فيُفقد الوقت الذي وفرته الأتمتة من جديد.
• عدالة الموظف: ينبغي أن يواجَه الموظف الذي رُفضت نفقته لا بجواب «هكذا قال النظام»، بل بمبرر ملموس مثل «بند الإقامة يتجاوز الحد الأعلى في سياسة الفريق». الرفض بلا مبرر يقوّض الثقة في عملية الإنفاق.
• سجل التدقيق: حين يسأل التدقيق الداخلي أو التدقيق المستقل عن سبب وضع علامة على نفقة أو سبب اعتمادها، يجب أن يكون بالإمكان إظهار القاعدة والبيانات التي استند إليها القرار بأثر رجعي.
• رصد الخطأ والتحيّز: حين يكون مبرر القرار مرئياً، يُكتشف مبكراً أن النموذج قد انغلق على نمط خاطئ (مثل اعتبار نفقات قسم معيّن مريبة بشكل منهجي) ويُصحَّح.
• الامتثال التنظيمي: يشترط قانون الذكاء الاصطناعي في الاتحاد الأوروبي أن تكون القرارات في الأنظمة عالية المخاطر قابلة للتبرير والتدقيق؛ كما أن تشريعات حماية البيانات الشخصية في تركيا تضمن حق الأفراد في الإبلاغ ضمن عمليات القرار الآلي.

مبرر مرئي في اعتماد النفقات

في تدفق الاعتماد التقليدي، لا يرى المدير سوى مبلغ بند النفقة وفئته؛ ويتخذ قراره بحدسه. أما في التدفق المدعوم بالذكاء الاصطناعي، فينتج النظام توصية لكل بند. تعني القابلية للتفسير هنا: عرض العوامل التي أنتجت التوصية إلى جانب التوصية نفسها.

فمثلاً، إلى جانب توصية «لِيُراجَع بند النفقة هذا» تُسرَد مبررات مثل عدم توافق تاريخ الإيصال مع تواريخ السفر، أو أن المبلغ أعلى بوضوح من النفقات السابقة في الفئة ذاتها، أو أن الإيصال نفسه استُخدم من قبل في تقرير آخر. وهكذا لا يفوّض المدير قراره؛ بل يتخذ قراراً مُعجَّلاً ومبرَّراً. وهذا التمييز مهم: ففي نظام مُحكم البناء تكون الكلمة الأخيرة دائماً للإنسان، والذكاء الاصطناعي يهيّئ القرار فحسب.

للمبرر المرئي مكسب آخر في جانب الميزانية. فحين يمكن الإبلاغ عن أي نفقات عُلِّقت ولأي أسباب، يرى فريق المالية الثغرات في نص السياسة ويُحدّث تخطيط الميزانية وفق سلوك الإنفاق الفعلي.

الشفافية في كشف الحالات الشاذة: «لماذا هذه المعاملة؟»

أكبر خطر على الأنظمة التي تلتقط النفقات غير المعتادة هو إنتاج إنذارات بلا مبرر. والإنذار بلا مبرر مكلف في الاتجاهين: الإنذارات الخاطئة تستهلك وقت فريق المالية، وبعد فترة تبدأ كل التنبيهات في التجاهل؛ وحين يُلتقط تلاعب فعلي بالنفقات، يبقى السؤال الموجَّه إلى الموظف بلا سند إن لم يُظهَر المبرر.

يضع كشف الحالات الشاذة القابل للتفسير إلى جانب كل تنبيه جواب سؤال «لماذا هذه المعاملة غير معتادة»: إيصال مكرر، وجبة عمل تقع في عطلة نهاية الأسبوع، نفقات متكررة تقترب تماماً من الحد الأعلى في السياسة. وهكذا يصير التنبيه لا اتهاماً بل نتيجة تُدرَس معاً. يعرف فريق المالية ماذا يفحص ولماذا؛ ويرى الموظف ما يواجهه؛ ويتأكد المدقّق من السجلات أن العملية تسير بقواعد لا باعتباط.

ذكاء اصطناعي جاهز للتدقيق: السجل، المبرر، الاعتراض

لترسيخ القابلية للتفسير في العمليات المالية ثلاث ركائز عملية:

• سجل القرار: ينبغي تسجيل كل توصية يقدّمها الذكاء الاصطناعي مع تاريخها والبيانات التي استندت إليها والقاعدة المطبَّقة. وعند التدقيق يجب أن يُجاب سؤال «لماذا قرّر النظام هكذا في ذلك اليوم» بأثر رجعي وبشكل كامل.
• شرح بحسب المعنيّ: ينبغي تقديم مبرر القرار نفسه لجماهير مختلفة بأعماق مختلفة. يتوقع الموظف مبرراً مفهوماً من جملة واحدة، ويتوقع فريق المالية بيان القاعدة والبيانات، ويتوقع المدقّق سجلاً قابلاً للتتبّع من طرف إلى طرف.
• آلية الاعتراض: يجب أن يكون سبيل مراجعة الإنسان مفتوحاً لكل قرار موسوم آلياً. والاعتراضات في الوقت ذاته أثمن مصدر تغذية راجعة يكشف أخطاء النموذج.

يحوّل هذا الثلاثي القابلية للتفسير من خاصية تقنية إلى عقد ثقة مؤسسي: يقترح النظام قراراً، ويُظهر مبرره، ويحفظ سجله، ويترك الكلمة الأخيرة للإنسان.

الأسئلة الشائعة

هل تخفّض القابلية للتفسير سرعة اعتماد النفقات؟

على العكس، ترفعها. التوصيات بلا مبرر تدفع المدير إلى فحص كل بند يدوياً؛ أما التوصيات المبرَّرة فتجعله يتوقف فقط عند البنود المريبة فعلاً. الشرح شرط مسبق لاستخدام الأتمتة بثقة.

هل كل نفقة يضع الذكاء الاصطناعي علامة عليها تلاعب؟

لا. العلامة دعوة للمراجعة لا حكم. الإيصال المكرر ينشأ غالباً عن سهو، وتجاوز السياسة ينشأ غالباً عن قاعدة غير محدَّثة. والقابلية للتفسير هي بالضبط ما يتيح إجراء هذا التمييز بسرعة.

هل ينطبق ذلك على الشركات الصغيرة والمتوسطة أيضاً؟

نعم. وإن كان حجم الإنفاق صغيراً، فمشكلة القرار بلا مبرر واحدة. وحلول إدارة النفقات الجاهزة تقدّم عرض القاعدة والمبرر ضمن بنيتها، فلا تتطلب استثماراً تطويرياً إضافياً.

ما أكبر تحدٍّ في القابلية للتفسير؟

هو التوازن بين الدقة والوضوح. فالنماذج الأكثر تعقيداً تعطي عادةً نتائج أدق لكن يصعب إظهار مبررها. في العمليات المالية ينبغي إقامة التوازن في الجانب الذي يمكن إظهار مبرره؛ لأن القرار غير القابل للدفاع، وإن كان صائباً، بلا قيمة في التدقيق وفي نظر الموظف.

اجعلوا قرارات نفقاتكم شفافة

الذكاء الاصطناعي القابل للتفسير هو البنية التحتية للثقة في العمليات المالية: تتسارع الاعتمادات، وتصبح التنبيهات مبرَّرة، ويتكوّن ملف التدقيق من تلقاء نفسه. يقدّم حل إدارة المصروفات من Masraff ميزاته الذكية الممتدة من تصنيف النفقات إلى ضبط السياسة وفق مبدأ الشفافية هذا. ولرؤية عملياتكم على أرض الواقع تواصلوا معنا.