شركة بوابات الخير للذكاء الاصطناعي

الطابق الأول، المبنى 7، المنطقة أ طريق المطار، البوابة الاقتصادية ص.ب 93597 الرياض 11683، المملكة العربية السعودية

0112611571

+966570709955

حوكمة الذكاء الاصطناعي

من يملك حقّ كتابة الدستور الذي تخضع له آلةٌ تتعلّم وتقرّر وتتنبّأ بمصائر الملايين؟ ومن يقف على الثغر ليُمسك بيد من يخالف هذا الدستور قبل أن يستفحل ضرره؟ السؤال يبدو إجرائياً للوهلة الأولى، كأنه مسألة لوائح تُسنّ في أروقة التشريع، لكنه في حقيقته سؤالٌ عن السلطة في أصفى صورها: من يحكم من، ومن يملك أدوات الإكراه حين تتقاطع مصالح الدول والشركات العملاقة والأفراد العاديين في فضاءٍ رقمي لا يعترف بالحدود ولا بالولايات القضائية.

إننا أمام مفارقةٍ مؤسِّسة: التقنية التي تتغلغل في كل تفصيلٍ من حياتنا، من تشخيص أمراضنا إلى تحديد جدارتنا الائتمانية، تُطوَّر وتُنشَر بسرعةٍ تفوق بمراحل قدرة أي برلمان على ملاحقتها، فينشأ فراغٌ تنظيمي تتسابق على ملئه أطرافٌ متعارضة المصالح، ويبقى السؤال الأخطر معلّقاً: حين تُخطئ الآلة خطأً فادحاً، فمَن يُحاسَب، ومَن يملك أصلاً صلاحية المحاسبة؟

لفهم عمق هذه الإشكالية لا بدّ من تفكيك مفهوم الحوكمة نفسه، فهو ليس مرادفاً للتشريع كما يُختزَل أحياناً، بل منظومةٌ متعددة الطبقات تشمل القوانين الملزِمة والمعايير الفنية الطوعية وأخلاقيات المهنة وآليات الرقابة المؤسسية وثقافة المسؤولية داخل الشركات المطوِّرة. وقد ميّز باحثو جامعة هارفارد في دراساتهم حول الحوكمة الرقمية بين نمطين متنازعين: حوكمةٌ صلبة تفرضها الدولة بقوة القانون والعقوبة، وحوكمةٌ ناعمة تنبع من المبادئ والمدوّنات الطوعية التي تتبنّاها الصناعة بنفسها. والمفارقة أن النمط الأول يتّسم بالبطء والجمود أمام تقنيةٍ سريعة التحوّل، بينما يفتقر الثاني إلى الأنياب التي تجعله ملزِماً حين يتعارض الربح مع المصلحة العامة. ومن هذا التوتر البنيوي بين الصلابة والمرونة تنبثق معظم معضلات حوكمة الذكاء الاصطناعي المعاصرة.

ويرى الكاتب أن جوهر الأزمة لا يكمن في غياب القواعد، فالقواعد تتكاثر اليوم تكاثراً لافتاً، بل في انفصام عميق بين من يضع القاعدة ومن يملك القدرة الفعلية على إنفاذها. فحين تكون الجهة الأقدر تقنياً على فهم النموذج وكشف عيوبه هي ذاتها الجهة التي طوّرته وتربح من نشره، فإننا نضع الخصم في موضع القاضي. وقد نبّه علماء معهد ماساتشوستس للتقنية في أبحاثهم حول الشفافية الخوارزمية إلى أن كثيراً من أنظمة الذكاء الاصطناعي بلغت من التعقيد حدّاً يجعل مطوّريها أنفسهم عاجزين عن تفسير قراراتها تفسيراً كاملاً، فكيف يُنتظر من جهازٍ رقابي حكومي أن يدقّق في صندوقٍ أسود يستعصي على صانعه؟ هنا تتكشّف الهوّة الحقيقية: فجوة معرفية وتقنية تفصل المنظِّم عن المنظَّم، تجعل الرقابة في كثيرٍ من الأحيان طقساً شكلياً لا قدرة فعلية.

شاطئ الجبيل ويضيف الكاتب بُعداً نادراً ما يُطرح بوضوح: أن التنظيم المفرط قد يكون في ذاته شكلاً من أشكال التحيز لصالح العمالقة لا ضدهم. فالشركات الكبرى تملك من الموارد القانونية والفنية ما يمكّنها من استيعاب كلفة الامتثال المعقّد، بل وتوظيفه سلاحاً يرفع حواجز الدخول أمام المنافسين الناشئين الذين لا قِبَل لهم بأعباء التوافق التنظيمي. وهكذا قد يتحوّل القانون المصمَّم لكبح جماح الاحتكار إلى أداةٍ تكرّسه، حين يصبح الامتثال ترفاً لا يقدر عليه إلا من يملك الميزانيات الضخمة. هذه المفارقة تقلب الحدس السائد رأساً على عقب: فليست المسألة دوماً «تنظيمٌ أكثر مقابل تنظيمٍ أقل»، بل «تنظيمٌ أذكى» يوازن بين حماية المجتمع وإبقاء باب الابتكار مفتوحاً أمام الجميع لا أمام النخبة المالية وحدها.

شاطئ الجبيل وثمة إشكالية أعمق تتعلّق بطبيعة المساءلة نفسها حين يتوزّع الفعل على سلسلةٍ طويلة من الفاعلين. فمن يتحمّل المسؤولية حين يُلحق نظامٌ ذاتي القيادة ضرراً بإنسان: الشركة التي صمّمت الخوارزمية، أم من جمع بيانات التدريب المنحازة، أم من نشر النظام في سياقٍ لم يُختبَر فيه، أم المستخدم الذي وثق به أكثر مما ينبغي؟ هذا «تشتّت المسؤولية» يجعل المساءلة التقليدية، القائمة على ربط الفعل بفاعلٍ واحد واضح، عاجزةً أمام منظومةٍ موزّعة. وقد أشارت منظمة التعاون الاقتصادي والتنمية في مبادئها الخاصة بالذكاء الاصطناعي إلى أن المساءلة يجب أن تظلّ بشريةً في نهاية المطاف، فلا يجوز أن تكون الآلة كبش فداءٍ يحجب المسؤولية عن صنّاعها ومشغّليها. غير أن ترجمة هذا المبدأ النبيل إلى آليةٍ قانونية عملية تظلّ من أعتى التحديات التي تواجه المشرّعين اليوم. فالقوانين القائمة على مفهوم النيّة والتقصير صيغت لعالمٍ يتصرّف فيه البشر بإرادةٍ واعية، بينما يتصرّف النظام الذكي وفق أنماطٍ إحصائية استخلصها من بياناتٍ قد لا يكون أحدٌ قد قصد بها ما أنتجته. وهنا يبرز خيارٌ تشريعي صعب بين تحميل المسؤولية الموضوعية لمن ينشر النظام بصرف النظر عن نيّته، وبين اشتراط إثبات الخطأ الذي يكاد يستحيل في منظومةٍ غامضة، وكلا الخيارين محفوفٌ بثمنٍ باهظ على العدالة أو على الابتكار.

ويمضي التحليل إلى ما هو أبعد من المساءلة الفردية ليطرح سؤال الرقابة على من يراقب. فحتى لو أنشأنا أجهزة رقابية متخصصة، فمن يضمن استقلالها عن ضغوط الصناعة وإغراءاتها؟ ظاهرة «الباب الدوّار» التي ينتقل فيها الخبراء بين المناصب التنظيمية ومواقع الشركات الكبرى تهدّد بإفراغ الرقابة من مضمونها، إذ يصعب أن يراقب المرء بحزمٍ من يأمل أن يعمل لديه غداً. ويرى الكاتب أن الحلّ لا يكون بتكثير الأجهزة بل بإعادة توزيع القدرة المعرفية، أي بتمكين الجهات الرقابية من كفاءاتٍ تقنية تضاهي ما لدى الشركات، وإلّا بقيت الرقابة لعبةً يُملي قواعدها الطرف الأقوى تقنياً. فالرقابة بلا كفاءةٍ موازية ليست سوى ستارٍ شكلي يُطمئن الجمهور دون أن يحمي أحداً، بل قد يكون أخطر من غيابها لأنه يبثّ وهم الأمان.

ولا تكتمل الصورة دون الإقرار بأن الحوكمة الفعّالة لا يمكن أن تبقى حبيسة الحدود الوطنية، فالنماذج الكبرى تُدرَّب في بلدٍ وتُنشَر في عشرات البلدان، والبيانات تعبر القارات في أجزاء من الثانية. وهذا يفرض ضرورة تنسيقٍ دولي يتجاوز التنافس الضيق، وقد دعا المنتدى الاقتصادي العالمي مراراً إلى إطارٍ حوكمي عابرٍ للحدود يوازن بين السيادة الوطنية والمصلحة الكونية المشتركة. لكن الكاتب يرى أن الرهان على توافقٍ عالمي شامل قد يكون مثالياً أكثر مما ينبغي، فالأجدى هو نموذج «قابلية التشغيل البيني» بين المنظومات التنظيمية المختلفة، بحيث تتحاور المعايير وتتكامل دون أن تذوب الخصوصيات الثقافية والسيادية لكل أمة. فالعالم لن يتّفق على دستورٍ واحد للآلة، لكنه قد يتّفق على لغةٍ مشتركة تتيح الحوار بين دساتيره المتعددة.

ولأن التشخيص وحده لا يصنع حلاً، فإن المعالجة تستلزم ركائز عملية متينة. أولاها مبدأ الشفافية القابلة للتدقيق، بحيث تُلزَم الأنظمة عالية الأثر بقابلية التفسير وفتح سجلّاتها أمام مدقّقين مستقلين، فلا حوكمة بلا قدرةٍ على النظر داخل الصندوق. وثانيتها التدرّج بحسب المخاطر، فلا يُعقَل أن يخضع تطبيقٌ للترفيه لما يخضع له نظامٌ يقرّر في مصير مريضٍ أو متّهم، والتناسب هنا شرط العدل التنظيمي. وثالثتها بناء كفاءاتٍ رقابية تقنية مستقلة قادرة على فهم النماذج ومساءلتها ندّاً لندّ. ورابعتها ترسيخ مبدأ بقاء المسؤولية بشريةً في القرارات عالية الرهان، فالآلة مفوَّضٌ لا أصيل. وخامستها الموازنة الدقيقة بين حماية المجتمع وحماية الابتكار، حتى لا يتحوّل التنظيم سلاحاً بيد الاحتكار.

وفي السياق العربي تكتسب هذه القضية بُعداً سيادياً لا يحتمل التأجيل، إذ إن الاكتفاء باستيراد المعايير الجاهزة من الشرق أو الغرب يعني استيراد قيمٍ وأولوياتٍ قد لا تتسق مع خصوصياتنا الثقافية والدينية والاجتماعية. ومن هنا تتجلّى الحكمة في توجّه رؤية المملكة العربية السعودية 2030 نحو بناء قدراتٍ وطنية لا في تطوير التقنية فحسب، بل في صياغة أطر حوكمتها أيضاً، بما يضمن أن تخدم الآلة منظومتنا القيمية لا أن تُعيد تشكيلها على صورةٍ غريبة. فالمشاركة في وضع قواعد اللعبة العالمية، لا مجرد اللعب بقواعد الآخرين، هي ما يحفظ للأمة موقعها فاعلاً لا مفعولاً به. وقد أكّدت تقارير دولية أن الدول التي تبني باكراً قدراتها الذاتية في الحوكمة ستكون الأقدر على حماية مواطنيها وعلى التفاوض من موقع الندّ في المحافل التي تُرسَم فيها معايير المستقبل.

يرى الكاتب في الختام أن حوكمة الذكاء الاصطناعي ليست معركةً تقنية تُحسَم بمزيدٍ من اللوائح، بل هي في جوهرها سؤالٌ عن من نأتمنه على مستقبلنا، وعن حدود ما نقبل تفويضه لكياناتٍ لا تملك ضميراً تُساءَل به ولا ذاكرةً تُحاسَب عليها. إن أخطر ما يتهدّدنا ليس آلةً تخرج عن السيطرة، بل بشرٌ يختبئون خلفها ليتنصّلوا من مسؤولياتهم، فيتحوّل التعقيد التقني إلى عباءةٍ تستر تهرّباً قديماً من المحاسبة. والمستقبل الذي يستحق أن نبنيه ليس عالماً تختفي فيه القواعد ولا عالماً تخنقه، بل عالماً تُكتَب فيه قواعد اللعبة بأيدٍ نزيهة وتُراقَب بعيونٍ يقظة لا تنام على إغراءٍ ولا تُشترى بنفوذ. فالعبرة في النهاية ليست في ذكاء الآلة، بل في يقظة الإنسان الذي يضع لها الحدود ويملك شجاعة إنفاذها، وتلك مسؤوليةٌ جماعية لا تحتمل التأجيل ولا التفويض الكامل لسوقٍ لا يعرف من القيم إلا ما يُدِرّ ربحاً.