.png)
تخيّل أنك تقدّمت بطلب قرض عقاري، فجاءك الرفض في غضون ثوانٍ معدودة من خوارزمية لم ترَ وجهك قط ولم تسمع قصتك، ثم اكتشفت لاحقاً أن جارك، المماثل لك في الدخل وفي تاريخه الائتماني، حصل على الموافقة لأن رمزه البريدي يقع في حيٍّ مختلف. هل كان القرار محايداً كما يُوحي بريق الآلة، أم أن ظلّ تمييزٍ قديم تسلّل إلى السطور البرمجية متخفّياً في ثوب المعادلة الرياضية؟ هذه ليست فرضية بعيدة، بل هي جوهر واحدة من أعقد إشكاليات الذكاء الاصطناعي المعاصر: التحيز الخوارزمي. فالآلة التي نظنّها معصومة من أهواء البشر تتعلّم في الحقيقة من سجلّاتنا، وسجلّاتنا مثقلة بقرونٍ من الإقصاء والأحكام المسبقة، فتعيد إنتاجها بدقّة آليّة باردة، بل وتضخّمها أحياناً تحت غطاءٍ زائف من الموضوعية.
لفهم هذه الظاهرة لا بدّ من العودة إلى الجذر التقني. أنظمة التعلّم الآلي لا تُبرمَج بقواعد صريحة يكتبها مهندس، بل تستخلص أنماطها من كميات هائلة من البيانات التاريخية. وهنا تكمن المفارقة المؤلمة: حين تكون تلك البيانات انعكاساً لمجتمعٍ ميّز يوماً بين الأعراق أو الأجناس أو الطبقات، فإن النموذج يلتقط هذا الانحياز بوصفه «حقيقة» إحصائية لا قيمة أخلاقية متحاملة. وقد صاغ علماء معهد ماساتشوستس للتقنية هذه المعضلة بوضوح حين كشفت الباحثة جوي بولامويني في مشروعها المعروف بـ«ظلال الأقنعة» أن أنظمة التعرّف على الوجوه التجارية كانت تخطئ في تصنيف النساء ذوات البشرة الداكنة بنسبٍ تفوق نظيرتها لدى الرجال ذوي البشرة الفاتحة بفارقٍ صادم، إذ كادت الدقّة أن تكون مثالية في الحالة الأخيرة بينما انهارت في الأولى. لم تكن الخوارزمية عنصرية بنيّة مبيّتة، لكنها دُرّبت على وجوهٍ غلب عليها لونٌ واحد وجنسٌ واحد، فعجزت عن «رؤية» من غاب عن بياناتها.
ويرى الكاتب أن الخطورة الحقيقية لا تكمن في الخطأ التقني بحد ذاته، فالأنظمة كلها تخطئ، بل في الهالة الزائفة من الحياد التي تحيط بالقرار الخوارزمي. حين يرفض موظفٌ بشري طلباً، يمكن مساءلته ومطالبته بالتبرير؛ أما حين ترفض الآلة، فإن القرار يُغلَّف بطبقة من الشرعية العلمية تجعل الاعتراض عليه أشبه بالاعتراض على قانون الجاذبية. هذه «موضوعية مفترضة» هي أخطر ما في الأمر، لأنها تنزع عن التمييز صفته الأخلاقية وتحوّله إلى مجرد ناتجٍ رياضي لا يُسأل عنه أحد. وقد نبّهت دراسات صادرة عن جامعة هارفارد في إطار أبحاث العدالة الخوارزمية إلى أن غسل التحيز عبر الأرقام قد يكون أشد فتكاً من التحيز الصريح، لأنه يفلت من شبكة الرقابة الاجتماعية التي تطوّرت عبر قرونٍ لكبح جماح التمييز البشري المعلَن.
والأمثلة على ذلك تتجاوز التعرّف على الوجوه إلى ميادين تمسّ مصائر الناس مباشرة. ففي مجال العدالة الجنائية، أثارت أداة تقييم خطورة المتهمين المعروفة بـ«كومباس» عاصفةً من الجدل حين كشف تحقيق صحفي استقصائي أن النظام كان يميل إلى تصنيف المتهمين من أصولٍ معيّنة على أنهم أكثر عرضة لمعاودة الإجرام، بينما يهوّن من خطورة آخرين رغم تطابق ظروفهم. وفي سوق العمل، اضطرت إحدى كبرى شركات التقنية إلى التخلّي عن نظامٍ لفرز السير الذاتية بعد أن تبيّن أنه «تعلّم» معاقبة المرشحات لأن بيانات التوظيف التاريخية كانت ذكوريةً في معظمها، فصار النظام يخفض تقييم أي سيرةٍ تحمل إشارةً إلى الأنوثة. لم يكتب أحدٌ سطراً برمجياً يقول «استبعد النساء»، لكن المنطق الإحصائي استنتج ذلك بنفسه من ماضٍ منحاز.
ويمضي التحليل إلى بُعدٍ أعمق كثيراً ما يغفل عنه النقاش السائد: مغالطة افتراض أن إزالة المتغير الحسّاس من البيانات تكفي لتحييد التمييز. يظن كثيرون أنه يكفي حذف خانة العِرق أو الجنس ليصبح النموذج عادلاً، لكن هذا وهمٌ خطير. فالخوارزميات بارعة في اكتشاف «المتغيرات البديلة» التي تنوب عن السمة المحذوفة؛ فالرمز البريدي قد يكون وكيلاً عن العِرق، ونمط الإنفاق قد يفضح الطبقة، وحتى اسم الجامعة قد يحمل إشارةً إلى الخلفية الاجتماعية. وقد أشارت أبحاث جامعة ستانفورد في هذا الصدد إلى أن الإنصاف الخوارزمي لا يتحقق بالعمى المتعمّد عن السمات الحساسة، بل أحياناً بالعكس تماماً: بإدراكها الواعي ومعالجتها صراحةً ضمن قيودٍ رياضية تضمن تكافؤ النتائج عبر المجموعات المختلفة. هنا يرى الكاتب أن المفارقة الأخلاقية تبلغ ذروتها، إذ قد يستلزم العدل أن «ترى» الآلة الفروق بدل أن تتعامى عنها.
غير أن الإشكالية تتعقّد أكثر حين ندرك أن مفهوم «العدالة» نفسه ليس واحداً قابلاً للقياس البسيط. فقد برهن باحثون في علوم الحاسوب على ما صار يُعرف بـ«استحالة الإنصاف»، أي أن المعايير الرياضية المتعددة للعدالة لا يمكن تحقيقها كلها في آنٍ واحد إلا في حالاتٍ نادرة جداً. فإن سعيت إلى تساوي معدّلات الخطأ بين المجموعات اضطررت أحياناً إلى التضحية بمعيارٍ آخر يبدو لا يقل عدالةً. وهذا يعني أن تصميم نظامٍ «عادل» ليس مسألةً تقنية صرفة، بل قرارٌ قيمي وسياسي بامتياز، يحدّد أي نوعٍ من العدل نختار ولأي ثمن. وهنا يفقد الحياد التقني المزعوم آخر أوراقه، إذ يصبح كل خيارٍ هندسي في جوهره موقفاً أخلاقياً يحتاج إلى نقاشٍ مجتمعي شفّاف لا إلى إخفاءٍ خلف ستار المعادلات.
ويضيف الكاتب بُعداً نادراً ما يُطرح: أن التحيز الخوارزمي ليس دائماً خطأً يجب تصحيحه، بل قد يكون مرآةً نافعة تكشف عللاً اجتماعية كنّا نتجاهلها. فحين يُظهر النموذج انحيازاً صارخاً ضد فئةٍ ما، فإنه لا يخترع هذا الانحياز من العدم بل يضخّم ما هو كامنٌ في بياناتنا، أي في واقعنا. وبهذا المعنى تتحوّل الخوارزمية المنحازة إلى أداة تشخيصٍ قاسية تضع المجتمع أمام مرآةٍ لا تجامل، تقول له صراحةً: هكذا كنت تقرّر طوال الوقت، وها أنا أعيد إنتاج قراراتك بأمانة محرجة. وفي هذا التحويل من «اللوم على الآلة» إلى «المساءلة للذات» تكمن فرصةٌ أخلاقية ثمينة لإصلاحٍ أعمق من مجرد ترقيع الشيفرة.
وثمة بُعدٌ آخر يستحق التأمل، وهو الطابع التراكمي للتحيز الخوارزمي. فالقرار المنحاز لا يقف عند ضحيته الأولى، بل يولّد بياناتٍ جديدة تُغذّي الجيل التالي من النماذج، فتنشأ حلقةٌ مفرغة تُعرف بـ«حلقة التغذية الراجعة». فإذا قرّرت خوارزمية الشرطة التنبؤية تكثيف الدوريات في حيٍّ بعينه استناداً إلى بلاغاتٍ سابقة، فإن مجرد الحضور الأمني المكثّف يولّد مزيداً من الضبط والتوقيف، فترتفع أرقام الجريمة المسجّلة في ذلك الحي لا لأن الإجرام فيه أكثر بل لأن العين المراقبة أكثر، ثم تعود هذه الأرقام المتضخّمة لتؤكّد للنموذج «صواب» انحيازه الأصلي. وقد حذّر باحثون في جامعة أوكسفورد ضمن دراساتهم حول أخلاقيات البيانات من أن هذه الحلقات قادرة على تحويل تحيزٍ طفيف في البداية إلى تمييزٍ بنيوي راسخ خلال دوراتٍ قليلة، ما لم يُكسر الدوران بتدخّلٍ بشري واعٍ يعيد ضبط البوصلة الأخلاقية للنظام.
ولا يقتصر الأمر على البيانات، بل يمتدّ إلى من يصمّم الخوارزميات أصلاً. فحين تكون فرق التطوير متجانسةً في خلفياتها وثقافتها، تغيب عنها زوايا نظرٍ بأكملها قد تكشف انحيازاً لا يلحظه إلا من عاش تجربة الإقصاء. ولهذا يرى الكاتب أن تنويع صنّاع التقنية ليس شعاراً اجتماعياً عابراً بل ضرورة هندسية صارمة، إذ إن غياب التنوع في غرفة التصميم يترجَم حتماً إلى عمى انتقائي في المنتج النهائي. فالخوارزمية لا تخرج من فراغ، بل تحمل بصمات من تخيّلها ومن غاب عن مخيّلتهم، وكثيراً ما يكون أشدّ التحيزات خطورةً هو ما لا يخطر ببال صانعه أصلاً لأنه لم يختبر نقيضه يوماً.
لكن التشخيص وحده لا يكفي، والمعالجة تستلزم ركائز عملية متينة. أولاها تنويع البيانات وتدقيق مصادرها قبل التدريب، فالنموذج لا يكون أعدل من الوقود الذي يتغذّى عليه، ومن ثَمّ وجب تمثيل كل الفئات تمثيلاً منصفاً في عيّنات التعلّم. وثانيتها الشفافية وقابلية التفسير، بحيث لا يبقى القرار صندوقاً أسود مغلقاً بل يمكن تفكيكه ومساءلته؛ وقد شدّدت منظمة التعاون الاقتصادي والتنمية في مبادئها الخاصة بالذكاء الاصطناعي على أن قابلية التفسير شرطٌ لازم لبناء الثقة العامة. وثالثتها التدقيق المستقل المستمر، إذ لا يكفي اختبار النظام مرةً واحدة عند إطلاقه، بل يجب مراقبته دورياً لأن أنماط البيانات تتغيّر والانحياز قد يتسلّل لاحقاً. ورابعتها، وهي الأهم، إبقاء الإنسان في حلقة القرار حين تكون الرهانات إنسانيةً عالية كالصحة والعدالة والتوظيف، فالآلة مستشارٌ لا حاكمٌ مطلق.
وفي السياق العربي تكتسب هذه القضية حساسيةً مضاعفة، إذ إن معظم النماذج الكبرى دُرّبت على بياناتٍ تغلب عليها اللغة الإنجليزية والثقافة الغربية، ما يجعلها عُرضةً لتحيزٍ ثقافي ولغوي ضد المتحدثين بالعربية وضد خصوصياتنا الاجتماعية والدينية. ومن هنا تتجلّى الحكمة في توجّه رؤية المملكة العربية السعودية 2030 نحو بناء قدراتٍ وطنية في الذكاء الاصطناعي، بما يشمل تطوير نماذج لغوية عربية أصيلة ومجموعات بياناتٍ محلية تعكس قيمنا وواقعنا. فالاستثمار في بنيةٍ معرفية عربية ليس ترفاً تقنياً بل ضرورة سيادية، تضمن ألّا نستورد مع التقنية انحيازاتٍ غريبة تُعيد تشكيل وعينا ومجتمعنا على صورةٍ ليست لنا. وقد أكّدت تقارير المنتدى الاقتصادي العالمي مراراً أن الدول التي تبني قدراتها المحلية في حوكمة الذكاء الاصطناعي ستكون الأقدر على حماية مواطنيها من مخاطر التحيز الخوارزمي العابر للحدود.
يرى الكاتب في الختام أن التحيز الخوارزمي ليس عيباً عابراً في التقنية يُرجى زواله مع تطوّر المعالجات، بل هو سؤالٌ حضاري عميق عن العلاقة بين العدل والآلة، وعن حدود ما يمكن أن نفوّضه لكياناتٍ لا تملك ضميراً ولا تدرك معنى الظلم. إن أعظم خطرٍ يتهدّدنا ليس أن تخطئ الآلة، فالخطأ قابلٌ للإصلاح، بل أن نسلّم لها مفاتيح القرار ونحن نظنّها محايدة بينما هي تحمل في أعماقها ندوب ماضينا. والمستقبل الذي يستحق أن نبنيه ليس مستقبلاً تختفي فيه الخوارزميات، بل مستقبلٌ نُخضعها فيه لرقابةٍ أخلاقية يقظة ونعيد تصميمها بوصفها أدواتٍ للعدالة لا حُرّاساً للظلم القديم. فالعبرة ليست في ذكاء الآلة، بل في حكمة من يصنعها ومن يحاسبها، وتلك مسؤولية لا يجوز أن نتركها للصدفة ولا للسوق وحده، بل لإرادةٍ مجتمعية واعية تجعل من التقنية خادماً للإنسان لا قاضياً عليه.