حوكمة الذكاء الاصطناعي: من يُحاسَب حين تُخطئ الآلة؟

كتب الاتحاد الأوروبي أول قانونٍ شامل للذكاء الاصطناعي، ودخل حيّز النفاذ في 1 أغسطس 2024. ثم احتاج إلى حزمة تعديلاتٍ، نُشرت في الجريدة الرسمية في يوليو 2026، لتؤجّل التزامات الأنظمة عالية الخطر من أغسطس 2026 إلى ديسمبر 2027. ليس هذا عيبًا في المشرّعين بقدر ما هو تذكيرٌ بأنّ القاعدة تُكتب بالسنوات، والتقنية تتبدّل بالأشهر. فمن يُحاسَب في الفجوة بين الاثنين؟

الحوكمة ليست قانونًا فقط

حين نقول «حوكمة» لا نعني تشريعًا واحدًا، بل طبقات: قوانين ملزمة، ومعايير فنية، ومبادئ معلنة، ورقابة مؤسسية، وثقافة مسؤولية داخل الجهة المطوِّرة. وكل طبقة تسدّ ثغرة الأخرى؛ فالقانون بطيء، والمبادئ الطوعية بلا أنياب. وفي السعودية نشرت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) مبادئ أخلاقيات الذكاء الاصطناعي في سبتمبر 2023، ومنها مبدأ «المساءلة والمسؤولية» الذي يشمل بحسب ملخّصٍ منشور تحديد ملكية الأنظمة والإبلاغ عن الحوادث وقنوات الإنصاف.

التنظيم بحسب الخطر

يصنّف القانون الأوروبي الأنظمة في أربعة مستويات: خطر غير مقبول (محظور، كالتصنيف الاجتماعي)، وخطر مرتفع (مباح بشروط صارمة كإدارة المخاطر والإشراف البشري)، وخطر الشفافية (كإعلام الناس بأنهم يتعاملون مع آلة)، وخطر أدنى بلا قواعد خاصة. والمنطق سليم: مرشّح البريد المزعج لا يُعامَل كنظامٍ يؤثر في توظيف إنسان أو تعليمه.

وفي التعديلات الأخيرة اعترف المنظِّم نفسه بثقل الامتثال على الشركات الأصغر، فوسّع بعض التيسيرات الممنوحة للشركات الصغيرة لتشمل «المتوسطة الصغيرة» التي تقل عن 750 موظفًا ولا يتجاوز دورانها 150 مليون يورو. وهنا تدبيرٌ دقيق: قاعدةٌ قاسية تحمي المجتمع، لكنها إن كانت مكلفة جدًّا لم يقدر عليها إلا الكبار.

من يتحمّل المسؤولية؟

حين يقع الضرر يتوزّع الفعل على سلسلة: من صمّم النموذج، ومن جمع بياناته، ومن نشره، ومن استعمله. وتنص مبادئ منظمة التعاون الاقتصادي والتنمية (التي اعتُمدت عام 2019 وحُدِّثت في مايو 2024) على أنّ من يطوِّر أنظمة الذكاء الاصطناعي أو ينشرها أو يشغّلها يجب أن يجيب عن حسن عملها بحسب دوره وسياقه، وأن يحتفظ بسجلاتٍ للبيانات والعمليات والقرارات تتيح مراجعة المخرجات والإجابة عن الاستفسارات.

ومن الخطوات العملية توجّهٌ أوروبي في المسؤولية عن المنتجات: فالتوجيه الجديد، النافذ منذ 8 ديسمبر 2024 والسارية أحكامه على المنتجات التي تُطرح في السوق ابتداءً من 9 ديسمبر 2026، يشمل البرمجيات وأنظمة الذكاء الاصطناعي، ويجعل الجهة المصنّعة مسؤولةً عن العيوب القائمة عند الطرح وعن العيوب التي تنشأ بعد تحديثٍ أو من ميزات التعلّم الآلي. وعلى المتضرر أن يثبت العيب والضرر وصلة السببية بينهما، وهو إثباتٌ أيسر في نظامٍ معقّد من التنقيب عن نيّة فاعلٍ بعينه. وهذا نموذجٌ واحد، وقد تختار بلدانٌ أخرى طرقًا مختلفة.

ما وراء الحدود

النماذج تُدرَّب في بلدٍ وتُستخدم في عشرات. وقد أنشأت الجمعية العامة للأمم المتحدة في أغسطس 2025 هيئةً علمية دولية من 40 عضوًا لإعداد تقييماتٍ غير ملزمة، ومنتدى سنويًّا للحوار حول حوكمة الذكاء الاصطناعي، ينعقد أول حوارٍ كامل منه في جنيف عام 2026 والثاني في نيويورك عام 2027. فالعالم لن يتفق على قانونٍ واحد، لكنه قد يتفق على لغةٍ مشتركة للحوار بين نظمه.

ما الذي تفعله المؤسسة؟

• أن تعيّن لكل نظام ذكاءٍ اصطناعي مالكًا مسؤولًا باسمه.
• أن تسجّل البيانات والقرارات المهمة بما يتيح التتبّع.
• أن تُبقي الإنسان صاحب القرار حين يمسّ القرار مصير شخص: صحته أو وظيفته أو ماله.
• أن تفرّق بين تطبيقٍ للترفيه ونظامٍ يؤثر في حقوق الناس، فتشدّد الرقابة بقدر الخطر.

المسؤولية أمانة، ولا تسقط عن صاحبها لأنه أحال القرار إلى خوارزمية. والآلة لا تُسأل؛ أما من صنعها ونشرها وأذن بها فيُسأل.