الخوارزمية: وصفةٌ من بغداد تحكم قرارات اليوم

يرفض المصرف طلب قرضك في أقل من ثانية، ولا موظف يقف خلف الشاشة. فمن اتّخذ القرار؟ سلسلةٌ من التعليمات اسمها الخوارزمية. وهي أبسط مما توحي به هالتها، وأقدم بكثير من الحاسوب.

وصفةٌ قبل أن تكون برنامجًا

الخوارزمية سلسلة محدودة من الخطوات المرتّبة تأخذ مُدخلًا وتُنتج مخرجًا. وصفة الطبخ خوارزمية، وطريقة القسمة الطويلة التي تعلّمناها صغارًا خوارزمية، وكذلك إرشادات الوصول إلى عنوان خطوةً بخطوة.

والكلمة عربية الأصل في جذرها. فالخوارزمي عاش بين نحو 780 ونحو 850م، وعمل في بيت الحكمة ببغداد في عهد الخليفة المأمون. وعنوان كتابه «الكتاب المختصر في حساب الجبر والمقابلة» هو الذي أعطى اللغات الأوروبية كلمة algebra بعد ترجمته إلى اللاتينية في القرن الثاني عشر. أما نصّه في الحساب الهندي فلم يصلنا إلا في ترجمة لاتينية بعنوان Algoritmi de numero Indorum، ومن الصيغة اللاتينية لاسمه (Algoritmi) اشتُقّت كلمة algorithm.

وحين دخلت الآلة إلى المشهد، كتبت عالمة الرياضيات آدا لافليس (Ada Lovelace) عام 1843 ملاحظاتٍ مطوّلة على ترجمتها لمقالٍ عن «الآلة التحليلية» لتشارلز بابدج، وصفت فيها كيف يمكن برمجة الآلة لحساب أعداد برنولي. وتخيّلت أنها قد تعالج «أشياء أخرى غير العدد»، كالنغمات الموسيقية. ويُلقَّب عملها بأنه أول برنامج، وهو لقب يُطلق عليها ولا يعني اتفاقًا تامًّا بين المؤرخين؛ والآلة نفسها لم تُنجَز قط.

خوارزمية تُملى وخوارزمية تتعلّم

في النوع الأول يكتب المبرمج كل قاعدة: إن تحقّق الشرط فافعل كذا. ويمكن تتبّع القرار سطرًا سطرًا لأنّ منطقه موضوعٌ سلفًا.

أما النوع الثاني، وهو ما يقف خلف الذكاء الاصطناعي الحديث، فلا تُملى عليه القواعد. تُعرَض عليه أمثلة كثيرة فيستخلص منها نموذجًا رياضيًّا. وعلى سبيل التبسيط: يحوّل طلب القرض إلى أرقام (الدخل، تاريخ السداد، متغيرات أخرى) ويُخرج درجةً تمثّل احتمال التعثّر، فإن جاوزت عتبةً معيّنة رُفض الطلب. لا غضب هنا ولا رحمة، حسابٌ يقيس الحاضر بمسطرة الماضي. وللتحيّز الذي قد تحمله تلك المسطرة مقال مستقل: «التحيّز الخوارزمي».

الصندوق الأسود وثمن الغموض

حين تتعلّم الخوارزمية من الركام الهائل من البيانات، تكسب قدرةً وتخسر وضوح الحجّة. وقد رأت الباحثة سينثيا رودين (Cynthia Rudin) أنّ محاولة تفسير نماذج معقّدة بعد بنائها قد تُديم ممارساتٍ سيئة، وأنّ الأجدى في القرارات عالية الأثر، كالرعاية الصحية والعدالة، بناء نماذج مفهومة من الأساس. وهذا رأيٌ في سجال علمي لم يُحسم، لكنه يوضّح المفاضلة: دقّة أكبر مقابل فهم أقل، ولا يُترك الاختيار للمصادفة حين تتعلّق النتيجة بمصير إنسان.

حين نثق أكثر مما ينبغي

المشكلة لا تقتصر على الخوارزمية بل تمتدّ إلى طريقة استقبالنا لها. فقد راجعت دراسة منهجية 74 بحثًا من 13,821 بحثًا مرشّحًا، وعرّفت «التحيّز للأتمتة» بأنه «الميل إلى الإفراط في الاعتماد على الآلة». ووجدت أنّ أنظمة دعم القرار تحسّن الأداء عمومًا، لكنها قد تُدخل أخطاءً جديدةً لا ينتبه إليها المستخدم. ومما يزيد الظاهرة ضغطُ الوقت وكثرة العمل، ومما يخفّفها التدريب وتأكيد مسؤولية المستخدم، وإظهار مستوى اليقين مع المخرج بدل الاكتفاء بتوصية قاطعة.

ما يقوله القانون وما يطلبه العقل

يُلزم قانون الذكاء الاصطناعي الأوروبي (المادة 14) أنظمة الذكاء الاصطناعي عالية المخاطر بأن تُصمَّم ليُشرف عليها بشر قادرون على تجاهل مخرجاتها أو عكسها وإيقاف النظام بأمان، وأن يبقوا منتبهين إلى ميلهم إلى الاعتماد المفرط عليها. وتمنح المادة 86 من يتأثّر بقرارٍ يستند إلى نظام من هذه الفئة، وله أثر قانوني أو أثر جسيم مماثل، حقَّ طلب «تفسيرات واضحة ومفيدة» لدور النظام في القرار. وهذا قانونٌ أوروبي لا يسري علينا، لكنه يعرض نموذجًا للتفكير.

وللقارئ في حياته اليومية ثلاثة أسئلة نافعة أمام أي قرار آلي:

• ما المُدخلات التي بُني عليها؟
• من يستطيع مراجعته أو الاعتراض عليه؟
• ماذا يفعل النظام حين لا يكون واثقًا؟

الخوارزمية صنيعة بشرية، وما دامت تتعلّم منّا فإصلاحها يبدأ بما نطعمها من بيانات وقيم. وحين نطلب الشفافية والمراجعة لا ننتقص من التقنية، بل نؤدّي أمانة المسؤولية عمّن يتأثّر بقراراتها، ونسأل الله أن يعيننا على حسن استعمال ما سُخّر لنا.