الذكاء الاصطناعي القابل للتفسير: حين يصمت القرار

تتقدّم بطلب تمويل، فيأتيك الرفض بعد ثوانٍ. تسأل عن السبب، فيقال لك: «النظام قرّر». لو قالها قاضٍ أو طبيب لعددناها ظلمًا صريحًا، فلماذا نقبلها من خوارزمية؟

الصندوق الأسود ليس مؤامرة

تعمل النماذج العميقة بغير قواعد مكتوبة يدويًّا؛ فهي تستخلص أنماطها من ملايين الأمثلة، فيستقر قرارها في تفاعل أعدادٍ هائلة من المعاملات الرقمية موزّعةٍ على طبقات متراكبة. ولا أحد صنع هذه العتمة عمدًا، فهي أثرٌ جانبيّ لطريقة التعلّم نفسها. وقد دفع ذلك الباحثين إلى فتح حقلٍ كامل هو «الذكاء الاصطناعي القابل للتفسير». وتقول وكالة مشاريع الأبحاث الدفاعية المتقدّمة الأمريكية (DARPA) عن برنامجها في هذا الباب إنه أراد نماذج أيسر تفسيرًا مع الحفاظ على مستوى عالٍ من الأداء. وأما الجانب الفني من تعلّم الآلة والتعلّم العميق فقد شرحناه في مقال «ما هو الذكاء الاصطناعي حقًّا؟ شرحٌ مبسّط بلا مبالغة».

تفسيرٌ يُقنع ولا يصدق

أخطر ما في الأمر أنّ التفسير الجميل قد يكون كاذبًا. فقد وضع المعهد الوطني الأمريكي للمعايير والتقنية (NIST) في وثيقته الصادرة عام 2021 أربعة مبادئ للتفسير: أن يقدّم النظام أسبابًا، وأن تكون مفهومةً لمن تُوجَّه إليه، وأن تكون دقيقة، وأن يعرف النظام حدود معرفته. وفرّقت الوثيقة بين دقة القرار ودقة التفسير؛ إذ قد يصيب النظام في قراره ويصف في تفسيره طريقًا لم يسلكه.

وهذه ليست مخاوف نظرية. فقد أظهر فريق بحثي (Slack وآخرون، 2019–2020) أنّ أداتي التفسير الشائعتين LIME وSHAP، وهما تقدّران أثر كل عامل في القرار بتجريب مدخلات معدّلة، يمكن خداعهما: إذ يُبنى مصنِّفٌ يبقى متحيّزًا على البيانات الحقيقية ثم تُرتَّب الأمور بحيث تُنتج الأداتان تفسيراتٍ تبدو بريئة، وجرّب الباحثون ذلك على بيانات عدّة منها بيانات COMPAS الشهيرة في العدالة الجنائية. فالنظام المتحيّز قد يرتدي تفسيرًا عادلًا المظهر.

وفي السياق نفسه تفرّق سينثيا رودين (Cynthia Rudin) بين أمرين: شرح نموذج معتم بأداة خارجية، وبناء نموذج مفهوم بتصميمه. وهي ترى أنّ الاكتفاء بالشرح اللاحق في القرارات عالية الخطورة، كالصحة والعدالة الجنائية، قد يُرسّخ ممارساتٍ سيئة ويُحدث ضررًا جسيمًا، وتدعو إلى النماذج المفهومة أصلًا. وهذا رأي باحثة في المسألة لا إجماعٌ مطلق، لكنه يذكّرنا بأنّ «وجود تفسير» غير «وجود فهم».

تفسير لمن؟

ليس للتفسير صورة واحدة. فما يحتاجه المهندس لإصلاح نموذجه يختلف عمّا يحتاجه الطبيب ليطمئنّ إلى توصية، وعمّا يحتاجه المتضرّر من قرارٍ ليعترض عليه. ولهذا جعل NIST شرط «الفهم» مبدأً قائمًا بذاته، ونبّه إلى أنّ التبسيط المناسب لجمهور قد يحذف دقائق يحتاجها الخبير. فالسؤال الصحيح: مفسَّرٌ لمن، ولأي غرض؟

ما تقوله المبادئ والتشريعات

صار هذا المطلب مكتوبًا في وثائق معتمدة. فمبدأ الشفافية وقابلية التفسير في مبادئ منظمة التعاون الاقتصادي والتنمية يدعو إلى معلومات واضحة عن العوامل والمنطق خلف المخرج حيثما أمكن ونفع، وإلى تمكين المتأثرين من الاعتراض عليه. وينصّ قانون الذكاء الاصطناعي الأوروبي في مادته 86 على أنّ من تأثّر بقرارٍ مبنيٍّ على نظام عالي الخطورة وفق ملحقٍ بعينه له أن يطلب من الجهة المستخدمة تفسيرًا واضحًا لدور النظام في القرار. وفي المملكة تضمّنت مبادئ أخلاقيات الذكاء الاصطناعي الصادرة عن الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) «الشفافية وقابلية التفسير» و«المساءلة والمسؤولية».

ماذا يُفعل عمليًّا؟

وراء هذه المبادئ ممارساتٌ محدّدة يمكن لأي جهة أن تطلبها أو تلتزم بها:

• التوثيق: بطاقة تعريف لكل نموذج تبيّن مصدر بياناته وحدوده ومواطن ضعفه، على نحو ما اقترحه Mitchell وزملاؤه في ورقة «بطاقات النماذج» (2018).
• الاختيار عند الشراء: في القرارات الجسيمة تُفضَّل النماذج المفهومة بتصميمها ما دامت تفي بالغرض، ولا يُكتفى بأداة تجميلٍ فوق نموذج معتم.
• الإنسان في الحلقة: لا يُترك مصير شخص لحكمٍ آلي بلا مراجعة بشرية قادرة على المخالفة.
• اختبار التفسير نفسه: لا يُسأل فقط «هل للنظام تفسير؟» بل «هل يطابق ما جرى فعلًا؟».

ومن أصول العدل أن يعرف المحكوم عليه وجه الحكم وأن يملك سبيلًا إلى الاعتراض. وهذا بالضبط ما تحتاجه الأنظمة الآلية حين تمسّ حقوق الناس: قرارٌ يمكن فهمه، فيمكن استئنافه. ولا يطلب أحدٌ من الآلة أن تكون بشرًا، وإنما أن تقف للمساءلة كما يقف كل من يحكم في شأن غيره.