من يُسأل حين تخطئ الخوارزمية؟ الذكاء الاصطناعي ومعضلة المسؤولية

في مارس 2018 اصطدمت سيارة اختبار ذاتية القيادة تابعة لشركة «أوبر» (Uber) بامرأة تعبر الطريق في ولاية أريزونا، فتوفيت. فمن المسؤول؟ جواب المجلس الأمريكي لسلامة النقل (NTSB) لم يكن اسمًا واحدًا.

ماذا وجد المحققون؟

رصد النظام المرأة قبل الاصطدام بنحو 5.6 ثانية، لكنه «لم يصنّفها قط تصنيفًا صحيحًا بوصفها من المشاة ولم يتنبأ بمسارها»، وتصميمه لم يكن يسمح بالفرملة الطارئة، إذ كان يعتمد على تدخل السائق. وخلص المجلس إلى أن سبب الحادث الأرجح تقصير سائق الاختبار في مراقبة الطريق وانشغاله بهاتفه. وعدّ «ثقافة السلامة غير الكافية» في وحدة القيادة الذاتية في الشركة عاملًا مساهمًا، وكذلك ضعف رقابة إدارة النقل في الولاية على اختبار هذه المركبات، وذكر عوامل أخرى. هذا المثال يوضح الفكرة: لم تكن الخوارزمية وحدها، ولا إنسان وحده، بل شبكة من القرارات.

لماذا يصعب الحساب بالطريقة القديمة؟

اعتاد القانون التمييز بين مسؤولية تقوم على خطأ يُنسب إلى فاعل، ومسؤولية عن ضرر منتَج معيب أو شيء في حراسة صاحبه. أما النظم الذكية فتُبنى على بيانات تجمعها جهة، وتُدرَّب بيد جهة ثانية، وتُضبط وتُباع عبر ثالثة، ويستعملها رابع في سياق لم يتوقعه أحد. وحين يقع الضرر تُحيل كل جهة اللوم إلى غيرها، ويُرهَق المتضرر في إثبات سلسلة سببية تعجز عن تتبّعها قدراته. وتزيد المشكلة أن الخطأ الخوارزمي يتكرر على أعداد كبيرة بالقرار نفسه، فيكبر أثره عن خطأ قاضٍ أو موظف في حالة واحدة. (انظر مقال «التحيّز الخوارزمي» عن أمثلة تكرار الظلم.)

ماذا تفعل التشريعات؟

لا يكفي البحث عمّن نحاسبه بعد وقوع الضرر؛ فالأجدى أن نمنعه. ويسير الاتحاد الأوروبي بقانون الذكاء الاصطناعي على نهج قائم على الخطر: يحظر الممارسات غير المقبولة كالتصنيف الاجتماعي، ويفرض على الأنظمة عالية الخطر إدارة للمخاطر وحوكمة للبيانات وسجلات تتبّع وتصميمًا يتيح الرقابة البشرية. وبعد تعديلات «الحزمة الرقمية للذكاء الاصطناعي» (2026) أُرجئ تطبيق التزامات عالية الخطر في قوائم المرفق الثالث إلى 2 ديسمبر 2027، أي أن الصورة التنفيذية ما زالت تتشكل.

وعلى جانب التعويض، تقرّ توجيهة المسؤولية عن المنتجات (2024/2853) بأن البرمجيات منتَج، وتقيم مسؤولية صارمة، وتفترض العيب أو السببية، مع قبول الدفع بعكسها، حين يعجز المتضرر عن الإثبات لتعقيد تقني أو يمتنع المدّعى عليه عن الإفصاح، وتلزم الدول بإدخالها في قوانينها بحلول 9 ديسمبر 2026.

وفي المملكة

بدأ نظام حماية البيانات الشخصية في المملكة العمل في 14 سبتمبر 2023، مع مهلة امتثال امتدت إلى سبتمبر 2024، ويشترط شفافية إضافية وموافقة صريحة وتقييم أثر في المعالجة الآلية التي تتخذ قرارات. وأصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) في سبتمبر 2023 مبادئ أخلاقيات الذكاء الاصطناعي السبعة، ومنها العدالة والشفافية وقابلية التفسير والمساءلة والمسؤولية.

خمسة أسئلة قبل نشر نظام مؤثر

أولًا: من الإنسان المسؤول عن مراجعة القرار ويستطيع تعطيله؟ ثانيًا: هل يستطيع النظام تفسير قراره بلغة يفهمها المتضرر والقاضي؟ ثالثًا: هل تُحفظ سجلات تُمكّن من التتبع؟ رابعًا: هل جرى تدقيق مستقل قبل النشر وبعده؟ خامسًا: كيف يُعوَّض المتضرر سريعًا وإن لم يُحسم بعدُ تحديد المخطئ؟ وفي هذا الأخير يمكن أن تنظر الجهات المختصة في صيغ تأمين تعاوني أو صناديق ضمان، مع استشارة أهل الاختصاص في ضوابطها الشرعية.

ولا يعني هذا تعطيل الابتكار خوفًا من تبعاته، فالأخطاء تقع في كل عمل بشري وآلي. المهم أن يكون أمام كل نظام مؤثر أمين يُسأل وطريق للإنصاف، وأن نُحسن التوكل على الله بعد الأخذ بالأسباب.