يُعد الذكاء الاصطناعي القابل للتفسير (XAI XIA Explanable AI ) مجالًا ناشئًا في التعلم الآلي ويهدف إلى معالجة كيفية اتخاذ قرارات الصندوق الأسود لأنظمة الذكاء الاصطناعي وهو من أحد المجالات الناشئة والنشطة في البحث العلمي إذ يعتمد مجموعة من التقنيات المستخدمة في تطوير أنظمة الذكاء الاصطناعي، هاته الأخيرة يتمّ تفسيرها عبر مهندسين في الذكاء الاصطناعي، بغاية الوصول إلى مستوى محدّد من الشفافية والثقة تُجاه أنظمة الذكاء الاصطناعي!

يفحص هذا المجال ويحاول فهم الخطوات والنماذج المتضمنة في اتخاذ القرارات. وبالتالي نتوقع أن يجيب XAI على بعض الأسئلة المحيرة مثل: لماذا اتخذ نظام الذكاء الاصطناعي تنبؤًا أو قرارًا محددًا؟ لماذا لم يفعل نظام الذكاء الاصطناعي شيئًا آخر؟ متى نجح نظام الذكاء الاصطناعي ومتى فشل؟ متى تمنح أنظمة الذكاء الاصطناعي الثقة الكافية في القرار بحيث يمكننا الوثوق به، وكيف يمكن لنظام الذكاء الاصطناعي تصحيح الأخطاء التي تظهر؟

من أهم التقنيات المعتمدة هي تفسير النماذج (Models)، ويتمّ ذلك عبر كتابة وإنشاء خوارزميات معينة تكون قادرة على شرح نظام الذكاء الاصطناعي المقدّم لها ومنه يمكن أن تفيد الباحثين والخبراء في الوصول إلى معلومات مهمّة متعلّقة بالتنبّؤات التي يتوقّعها النموذج، فأين تكمن أهمية هذا المجال الواعد؟

لا شكّ في أنّ الذكاء الاصطناعي اليوم يأخذ منحى تصاعديا في الولوج إلى حياتنا اليومية، سالبا كلّ يوم وظائف ومهنا عديدة، لكن مع ذلك لا يمكن أن نعتبر أنّ جميع أنظمة الذكاء الإصطناعي أنّها آمنة وأخلاقية، أو بالأحرى جديرةً بالثقة، وهنا أتى دور مجال تفسير أنظمة الذكاء الإصطناعي أو ال eXplainable AI ويرمز له إختصارا ب XIA، هذا الأخير يعوّل عليه كثيرا في خلق أنظمة أخلاقية موثوقة يمكن التعامل معها بكل أريحية وأمان.

ولفهم أهمية هذا المجال وتبسيطه، أريد أن أسلّط الضوء على مجال الطب والرعاية الصحية وأقدّم مثالا عن ذلك، تمّ إنشاء مشروع ذكاء إصطناعي قابل للتفسير خاص بعلم الجينوم (XIA4Genomics) وعلم الجينوم هذا يقصد به علم دراسة الجينات ووظائفها، ويهدف هذا المشروع لتطوير تقنيات ذكاء إصطناعي متطورة تساعد الباحثين على فهم الأمراض الجينية خاصة النادرة والمستعصية منها وهذا كلّه عبر تزويدهم بنماذج ال XIA تكون قابلة للتفسير.

في مجال الجرائم الجنائية مثلا، يتمّ إستخدام هذه النماذج المفسّرة لتحسين أدوات تنبؤ العودة للإجرام، وفي الغالب هذه الأدوات تستخدم في الدول المتطورة ومثالنا اليوم عن الولايات المتحدة الأمريكية، إذ يعتقد الكثيرون أنّ تلك الأدوات غير عادلة وأنّها غامضة بعض الشيء فيأتي دور أنظمة تفسير الذكاء الإصطناعي لتحلّ المشكلة.

في رأيكم ما هي الاستفادة التي يمكن أن نحصل عليها من هذه الأنظمة المفسّرة في الحياة العملية، وما توقعك لما قد يحدث في مجال الذكاء الاصطناعي ككل بعد تطبيق هذه التقنية؟