ولكي ندرك كيف تصنع الخوارزمية قراراً، يحسن أن نفرّق بين نوعين منها يتنازعان عالمنا الرقمي. فالنوع الأوّل خوارزميةٌ تقليدية صريحة، يكتب فيها المبرمج كلّ قاعدةٍ بيده: إن تحقّق هذا الشرط فافعل ذاك، وإلا فاسلك المسار الآخر. هنا القرار شفّافٌ يمكن تتبّعه سطراً سطراً، لأنّ منطقه موضوعٌ سلفاً بعقلٍ بشري. أما النوع الثاني، وهو الذي يقف خلف ما نسمّيه الذكاء الاصطناعي، فخوارزميةٌ تتعلّم؛ لا تُملى عليها القواعد، بل تستخلصها بنفسها من ركامٍ هائل من البيانات. تُريها ملايين الصور الموسومة فتتعلّم تمييز القطّ من الكلب دون أن يخبرها أحدٌ ما القطّ، وتُطعمها سجلّات قروضٍ سابقة فتستنبط أنماط التعثّر والسداد، فتبني نموذجاً رياضياً يزن كلّ حالةٍ جديدة بميزانٍ تعلّمه من الماضي لا من أمرٍ صريح. وهنا تكمن نقلة العصر: انتقلنا من آلةٍ تنفّذ ما نمليه، إلى آلةٍ تستنبط ما لم نُمْلِه قط. ولنتأمّل كيف يُصنع القرار في هذه الأخيرة عمليّاً؛ فحين يصلها طلب قرضٍ جديد، لا تسأل نفسها سؤالاً أخلاقياً ولا تزن المتقدّم بميزان العدل، بل تترجم حالته إلى أرقام: دخله، وعمره، وتاريخ سداده، وعشرات المتغيّرات الأخرى، ثم تمرّر هذه الأرقام عبر معادلةٍ ضخمة عايرتها على آلاف الحالات السابقة، فتُخرج في النهاية رقماً واحداً يمثّل احتمال التعثّر. فإن تجاوز هذا الرقم عتبةً معيّنة رُفض الطلب في أجزاءٍ من الثانية. لا غضب هناك ولا رحمة ولا تردّد، بل حسابٌ بارد يحاكي أنماط الماضي ويُسقطها على وجهٍ لم يره من قبل. وهذه هي حقيقة «القرار الخوارزمي» المجرّدة من هالتها: استنباطٌ إحصائيٌّ يرتدي قناع اليقين.

ويرى الكاتب أنّ المفارقة الأعمق في هذا التحوّل أنّنا، سعياً وراء ذكاءٍ أعظم، ضحّينا بالشفافية من حيث لا نشعر. فالخوارزمية الصريحة كانت كتاباً مفتوحاً، نعرف لماذا قرّرت ما قرّرت؛ أما الخوارزمية المتعلّمة فصندوقٌ أسود في كثيرٍ من الأحيان، تصدر حكمها دون أن تُفصح عن سببه حتى لمن صنعها. وقد نبّهت باحثةٌ مثل سينثيا رودين من جامعة ديوك إلى أنّ الإصرار على تفسير القرارات بعد صدورها قد يكون أقلّ جدوى من تصميم نماذجَ مفهومةٍ ابتداءً، لا سيّما حين تتعلّق بمصائر الناس. فحين يرفض نظامٌ طلب توظيفٍ أو قرضاً أو إفراجاً مشروطاً، لا يكفي أن يكون دقيقاً؛ بل يجب أن يكون قابلاً للمساءلة. والقابلية للمساءلة تتطلّب فهماً، والفهم هو أوّل ما يضيع حين نطارد الدقّة وحدها.

ولأنّ الخوارزمية تتعلّم من بياناتٍ صنعها بشرٌ بكلّ تحيّزاتهم، فإنّها ترث تلك التحيّزات وتضخّمها بهدوءٍ خطير. فلو دُرّبت خوارزمية توظيفٍ على سِيَرٍ ذاتية لموظّفين سابقين كان أغلبهم رجالاً، تعلّمت أن تفضّل الرجال، لا عن سوء نيّةٍ بل عن أمانةٍ عمياء في محاكاة الماضي. وقد وثّقت دراساتٌ من معهد ماساتشوستس للتقنية، من بينها عمل الباحثة جوي بولامويني، أنّ أنظمة التعرّف على الوجوه أخطأت في تصنيف بشرات النساء داكنات اللون بمعدّلاتٍ تفوق بمراتب أخطاءها مع الرجال فاتحي البشرة، لأنّ البيانات التي تعلّمت منها لم تمثّلهنّ تمثيلاً عادلاً. وهنا حقيقةٌ يجدر أن تُقال بوضوح: الخوارزمية ليست محايدةً كما يُروَّج، بل هي مرآةٌ تعكس مجتمعها؛ فإن كان المجتمع مائلاً، جاءت الصورة مائلة، ثم منحتها هالةُ «الموضوعية الرقمية» شرعيةً زائفة تجعل التمييز أصعب اكتشافاً وأشدّ رسوخاً. والأدهى أنّ التحيّز الخوارزمي لا يقف عند حدود الأفراد، بل يتراكم ليعيد إنتاج التفاوت على نطاقٍ واسع؛ فحين يرفض نظامٌ آلافاً من المتقدّمين وفق نمطٍ متحيّز، فإنّه لا يظلم فرداً واحداً بل يرسّخ خللاً بنيوياً يطول أجيالاً. وقد حذّر تقريرٌ صادر عن منظمة التعاون الاقتصادي والتنمية من أنّ غياب الحوكمة الرشيدة لأنظمة الذكاء الاصطناعي قد يحوّل التحيّزات الفردية إلى تمييزٍ ممنهج يصعب تداركه بعد فواته. ولذلك فإنّ علاج التحيّز لا يكون بتلميع الخوارزمية بعد بنائها، بل بتنقية البيانات وموازنتها قبل أن تتعلّم منها أصلاً.

ويرى الكاتب أنّ أخطر ما في الأمر ليس الخطأ بذاته، بل الثقة العمياء التي نوليها للقرار حين يصدر عن آلة. فالإنسان قد نشكّ في حكمه ونراجعه، أما حين تقول الشاشة «رُفض الطلب» فإنّ نبرة اليقين الرقمي تُسكِت السؤال. وقد بيّنت أبحاثٌ في جامعة ستانفورد وغيرها أنّ ميل البشر إلى الانصياع لتوصية الآلة قد يبلغ حدّ تعطيل حكمهم المستقل، فيغدو القرار «الخوارزمي» سلطةً لا تُناقَش. وهنا تتبدّى مفارقةٌ مُرّة: صنعنا الخوارزمية لتخدم قرارنا، فإذا بها تحلّ محلّه؛ وبدل أن تكون أداةً في يد العقل، صارت في مواضعَ كثيرة وصيّاً عليه.

ومع ذلك، فإنّ إدانة الخوارزمية جملةً ظلمٌ لا يقلّ عن تقديسها. فهي التي تكشف الاحتيال في حسابك المصرفي قبل أن تشعر، وترصد الأورام في صور الأشعّة بدقّةٍ تنافس الخبراء، وتوجّه شاحنات الإغاثة إلى أقصر الطرق في الكوارث، وتُسرّع اكتشاف الأدوية بطيّ سنواتٍ من التجارب. والمسألة إذاً ليست في الأداة، بل في كيفية حُكمها وضوابط استعمالها. ومن هنا تتّضح ركائزُ عملية لا غنى عنها: أوّلها أن نطالب بالشفافية، فلكلّ إنسانٍ حقٌّ في معرفة لماذا اتُّخذ بحقّه قرارٌ مصيري، وهو حقٌّ بدأت أطرٌ تنظيمية كأنظمة الاتحاد الأوروبي للذكاء الاصطناعي تُرسّخه بإلزام الأنظمة عالية الخطورة بالقابلية للتفسير. وثانيها أن نُبقي الإنسان في الحلقة، فلا يُترك القرار الحسّاس للآلة وحدها، بل تظلّ بيد البشر كلمةٌ أخيرة. وثالثها أن نُدقّق في جودة البيانات وتمثيلها قبل أن نُدقّق في الخوارزمية نفسها، فالعلّة في الوقود قبل أن تكون في المحرّك. ورابعها أن نبني الوعي العام، إذ لا تكفي رقابة الخبراء ما لم يدرك المستخدم العادي أنّ ما يراه «حياداً» قد يكون انحيازاً مُقنَّعاً.

وفي السياق العربي، يكتسب هذا الوعي إلحاحاً مضاعفاً. فالخوارزميات التي تحكم منصّاتنا ومصارفنا وخدماتنا غالباً ما دُرّبت على بياناتٍ غربية، تجهل خصوصيّتنا اللغوية والثقافية، فتصدر بحقّنا أحكاماً مفصّلة على مقاس غيرنا. ومن هنا تنبع أهمّية أن نصنع خوارزمياتنا ببياناتنا، لا أن نستوردها جاهزة. وقد جعلت رؤية السعودية 2030 من الذكاء الاصطناعي والبيانات ركيزةً للتحوّل الوطني، عبر هيئاتٍ ومبادراتٍ تستهدف بناء قدرةٍ محلّية على تطوير هذه الأنظمة وحوكمتها، إدراكاً بأنّ من لا يملك خوارزميته يُحكَم بخوارزمية غيره. فالسيادة الرقمية لم تعد ترفاً، بل شرطاً لأن نظلّ فاعلين في عالمٍ تُتّخذ فيه أخطر القرارات بصمتٍ خلف الشاشات. وقد قدّر المنتدى الاقتصادي العالمي أنّ موجة الأتمتة والذكاء الاصطناعي ستعيد رسم خريطة ملايين الوظائف خلال السنوات القادمة، بين وظائف تختفي وأخرى تُولد، وهو تحوّلٌ لا ينجو منه إلا من يملك ناصية الأداة لا من يكتفي باستهلاكها. ومن هنا فإنّ المعركة الحقيقية ليست بين الإنسان والخوارزمية، بل بين أمّةٍ تصنع خوارزمياتها وأمّةٍ تُحكَم بها.

والخلاصة أنّ الخوارزمية ليست قَدَراً يُفرَض علينا، بل صنيعةً بشريةً نحن مسؤولون عنها. وما دامت تتعلّم منّا، فإنّ إصلاحها يبدأ بإصلاح ما نُطعمها إيّاه من بياناتٍ وقيم. والسؤال الذي يفتح الأفق ليس كيف نصنع خوارزميةً أذكى، بل كيف نصنع خوارزميةً أعدل وأشدّ شفافية؛ خوارزميةً نفهم لماذا تقرّر ما تقرّر، ونملك أن نراجعها حين تُخطئ، ونحاسبها حين تظلم. فالقلب النابض خلف كلّ قرارٍ رقمي ليس الآلة، بل الإنسان الذي علّمها؛ وما لم نستعد زمام هذا التعليم بوعيٍ وعدل، فسنظلّ نوقّع على أحكامٍ لا نعرف من أين جاءت، ولا إلى أين تمضي بنا. فهل نملك من الحكمة في توجيهها بقدر ما منحناها من القدرة على الحكم علينا؟