ولكي نُدرك كيف تشكّلت هذه الأوزان أصلاً، يحسن أن نتأمّل عملية التدريب ذاتها؛ فالنموذج يُعرَض عليه كمٌّ هائل من الأمثلة، ويُطلب منه أن يتنبّأ، ثم يُقاس مقدار خطئه عبر دالّةٍ تُسمّى «دالّة الخسارة»، فتُصحَّح أوزانه قليلاً في الاتجاه الذي يخفض ذلك الخطأ، عبر خوارزمية «الانتشار العكسي» التي أعاد جيفري هينتون وزملاؤه إحياءها في ثمانينيات القرن الماضي. تتكرّر هذه الدورة بلايين المرّات، حتى يستقرّ النموذج على تكوينٍ من الأوزان يجعله بارعاً في مهمّته. لكنّ المفارقة أنّ أحداً لم «يبرمج» هذا التكوين، بل انبثق من البيانات وحدها؛ فالنموذج لم يُلقَّن المعرفة تلقيناً، وإنّما استخلصها استخلاصاً من رُكام الأمثلة، وهنا تحديداً يولد الغموض: حين لا يصنع الإنسان القاعدة بيده، يعسر عليه أن يقرأها بعد أن تصنعها الآلة لنفسها.

لقد أزاح آلان تورينج، منذ منتصف القرن الماضي، السؤال من موضعه حين اقترح أن نقيس الذكاء بأثره الظاهر لا بجوهره الخفي؛ وها نحن اليوم نحصد الثمرة المرّة لذلك التحوّل، إذ صار لدينا آلاتٌ تُبدع في الأثر وتعجز عن الإفصاح عن الجوهر. والطريقة التي «تفكّر» بها هذه النماذج اللغوية أبسط ممّا يتوهّمه كثيرون وأعمق في آن؛ فهي في صميمها آلةٌ تتنبّأ بالكلمة التالية. تأخذ ما كُتب حتى اللحظة، وتحوّله إلى سلسلةٍ من المتّجهات العددية التي تمثّل المعاني وعلاقاتها في فضاءٍ رياضيٍّ شاسع، ثم تحسب، عبر معمارية «المحوّلات» التي قدّمتها ورقة «الانتباه هو كلّ ما تحتاجه» عام 2017، أيُّ الكلمات أولى بأن تتلو ما سبق. تكرّر هذه العملية كلمةً بعد كلمة، فتتولّد الجملة وكأنّها صادرةٌ عن فهمٍ عميق، بينما هي في حقيقتها سلسلةٌ من الرهانات الاحتمالية الموزونة بدقّةٍ مذهلة. وهذا ما يفسّر ظاهرة «الهلوسة» التي تحيّر المستخدمين: فالنموذج لا «يكذب» لأنّه لا يعرف الفرق أصلاً بين الصدق والاختلاق؛ إنّه يولّد ما يبدو الأرجح إحصائياً، لا ما هو الأصدق واقعياً.

ويرى الكاتب أنّ أخطر ما في هذه العقدة ليس عجزنا التقني عن التفسير، بل تواطؤنا النفسي مع الغموض. فنحن نميل إلى منح الآلة سلطةً معرفيةً تفوق ما تستحق، لمجرّد أنّها تتحدّث بطلاقةٍ وثقة؛ وهي امتدادٌ مباشر لما عُرف قديماً بـ«أثر إليزا»، نزوع الإنسان إلى أن ينسب للآلة فهماً لا تملكه. والطلاقة ليست دليل صدق، والثقة في النبرة ليست برهان صوابٍ في المضمون. لكنّ عقولنا، المهيّأة فطرياً للثقة بمن يتكلّم بثبات، تقع في الفخّ مراراً. وهنا تكمن المفارقة الأعمق: كلّما صارت هذه الأنظمة أكثر بلاغة، ازداد خطر تصديقنا لها بلا تمحيص، وتراجعت قدرتنا على كشف زلّاتها. فالإتقان الظاهري يخدّر اليقظة النقدية، والآلة التي تخطئ بوضوحٍ أقلّ خطراً من تلك التي تخطئ بأناقة.

ومن هنا وُلد حقلٌ علميٌّ بأكمله اسمه «قابلية التفسير»، يسعى إلى فتح الصندوق الأسود وإضاءة عتمته. وقد قطعت أبحاثٌ رائدة في هذا المجال أشواطاً لافتة؛ فقد توصّل باحثون إلى أنّهم يستطيعون، عبر تقنياتٍ كـ«المرمّزات المتفرّقة»، أن يستخرجوا من فوضى الأوزان «ملامح» مفهومةً للإنسان، أي اتجاهاتٍ في الفضاء العددي تقابل مفاهيم محدّدة كالمدن أو المشاعر أو حتى مفهوم الخطأ البرمجي. والأعجب أنّ الباحثين تمكّنوا من «تكبير» أو «تصغير» هذه الملامح، فيتغيّر سلوك النموذج تبعاً لذلك، تماماً كمن يعثر على مفتاح إضاءةٍ في غرفةٍ مظلمة. وهذا يعني أنّ الصندوق ليس أسود تماماً، بل رماديٌّ تتسرّب منه خيوط النور شيئاً فشيئاً. غير أنّ الطريق ما يزال طويلاً؛ فاستخراج بضعة ملايين من الملامح من نموذجٍ يحوي مليارات الأوزان أشبه برسم خريطةٍ لقارّةٍ بأكملها انطلاقاً من معرفة بضعة شوارعٍ في مدينةٍ واحدة.

ولا ينبغي أن نظنّ أنّ هذا الحقل ترفٌ أكاديمي؛ فقد بيّنت دراساتٌ في مختبر علوم الحاسب والذكاء الاصطناعي بمعهد ماساتشوستس للتقنية أنّ النماذج قد تتعلّم «اختصاراتٍ» خادعة، فتربط نتيجةً بسببٍ زائف لمجرّد أنّه تكرّر في بيانات التدريب، كأن يميّز نموذجٌ صورة ذئبٍ بناءً على الثلج في الخلفية لا على الحيوان نفسه. وهذه الاختصارات الخفية هي ما يجعل النموذج بارعاً في الاختبار وهشّاً في الواقع؛ إذ يكفي أن يتغيّر سياقٌ صغير لينهار أداؤه على نحوٍ مباغت. ولولا أدوات التفسير لظلّت هذه العيوب كامنةً حتى تتفجّر في لحظةٍ حرجة، حين يكون الثمن أرواحاً أو أموالاً أو أحكاماً تمسّ مصائر الناس.

وثمّة بُعدٌ أعمق يغفل عنه كثيرون حين يتحدّثون عن «شفافية» الذكاء الاصطناعي؛ فالتفسير الذي يقدّمه النموذج عن قراره ليس بالضرورة هو السبب الحقيقي لذلك القرار. فحين تطلب من نموذجٍ لغويٍّ أن يشرح لماذا أجاب بكذا، فإنّه يولّد تبريراً معقولاً لاحقاً، لا يكشف بالضرورة المسار العددي الفعلي الذي سلكه. إنّه يؤلّف قصّةً مقنعةً عن قرارٍ سبق أن اتُّخذ في عتمة الأوزان. وهذه حقيقةٌ مقلقة، لأنّها تعني أنّ «التفسير المريح» قد يكون أخطر من الغموض الصريح؛ فالغموض على الأقل يبقينا حذرين، أمّا التبرير المعسول فيمنحنا طمأنينةً زائفة. ويرى الكاتب أنّ النضج الحقيقي في التعامل مع هذه الأنظمة يبدأ من التمييز الدقيق بين ما تقوله الآلة عن نفسها، وما تفعله في حقيقتها؛ فبينهما مسافةٌ قد تتّسع حتى تبتلع قراراتٍ مصيريةً تمسّ حياة البشر.

ولهذا الغموض ثمنٌ أخلاقيٌّ باهظ كثيراً ما نتغافل عنه؛ فحين يتعذّر تفسير القرار، يتعذّر اكتشاف الانحياز الكامن فيه. وقد رصدت أبحاثٌ في جامعة ستانفورد وغيرها أنّ النماذج تَرِث انحيازات بياناتها بصمتٍ تام، فتعيد إنتاج تمييزٍ تاريخيٍّ في القروض أو التوظيف أو حتى التقدير القضائي، دون أن يقصد مصمّموها ذلك ولا أن يلحظوه. والآلة هنا ليست شرّيرة، لكنّها أمينةٌ بإفراط؛ تعكس مجتمعها بكلّ ندوبه. ولأنّ القرار يصدر من أعماق الصندوق، يصعب أن نُمسك بالانحياز متلبّساً، فنكتفي بأثره دون أن نبلغ جذره. وهنا تتحوّل قابلية التفسير من مسألةٍ تقنية إلى مسألة عدالةٍ صريحة؛ فلا مساءلة دون فهم، ولا إنصاف دون قدرةٍ على تتبّع السبب إلى منشئه.

ولأنّ هذه الأنظمة لم تعد ترفاً تقنياً بل بنيةً تحتيةً تتغلغل في القرارات المصيرية، صار فهم آلياتها مسألة سيادةٍ ومسؤولية. وقد نبّه منتدى الاقتصاد العالمي مراراً إلى أنّ الثقة في الذكاء الاصطناعي لا تُبنى على الأداء وحده، بل على القدرة على التفسير والمساءلة؛ كما شدّدت منظمة التعاون الاقتصادي والتنمية في مبادئها بشأن الذكاء الاصطناعي على أنّ الشفافية وقابلية التفسير ركنان أصيلان في أيّ نظامٍ جدير بالثقة. وفي السياق العربي، حيث تتسارع رؤية السعودية 2030 نحو اقتصادٍ قائمٍ على المعرفة والتقنية، يصبح بناء الكفاءات القادرة على «قراءة» هذه الأنظمة لا مجرّد استخدامها ضرورةً وجودية؛ فمن يكتفي بتشغيل الآلة دون أن يفهم منطقها يظلّ تابعاً لها، عاجزاً عن مراجعتها أو محاسبتها أو تطويعها لخدمة قيمه وأولوياته. والأمّة التي تستورد التقنية جاهزةً دون أن تنفذ إلى أعماقها تستورد معها انحيازاتٍ لم تصنعها وقيماً لم تختَرها.

فما الذي يملكه القارئ العملي إزاء هذا كلّه؟ يرى الكاتب أنّ الركيزة الأولى هي اليقظة النقدية: أن نتعامل مع مخرجات هذه الأنظمة بوصفها مقترحاتٍ تحتاج تحقّقاً، لا أحكاماً نهائيةً تستوجب التسليم. والركيزة الثانية أن نُبقي الإنسان في حلقة القرار حين يكون القرار مصيرياً؛ فالآلة معينٌ ممتاز، لكنّها مستشارٌ لا قاضٍ. والركيزة الثالثة أن نطالب، فرداً ومؤسّسةً ودولة، بأنظمةٍ قابلةٍ للتفسير في المجالات الحسّاسة، فلا يُقبل في الطبّ والقضاء والمال أن يصدر حكمٌ لا يُعرف سببه. والركيزة الرابعة، وهي الأعمق، أن نزرع ثقافةً معرفيةً تفهم أنّ الذكاء الاصطناعي ليس سحراً ولا وعياً، بل رياضياتٌ واحتمالاتٌ وبياناتٌ تعكس مَن صنعها؛ فإذا فهمنا أنّه مرآةٌ لا نبوءة، عرفنا متى نثق به ومتى نرتاب.

وفي خاتمة المطاف، لعلّ أعظم ما تعلّمنا إيّاه هذه الصناديق السوداء ليس عن الآلة، بل عنّا نحن. فنحن البشر أنفسنا صناديق سوداء بدرجةٍ ما؛ نتّخذ قراراتٍ ثم نخترع لها أسباباً، ونحكم بحدسٍ غامضٍ ثم نلبسه ثوب المنطق. ولعلّ مسعانا لفهم عقل الآلة الخفي ما هو إلّا انعكاسٌ لمسعانا الأقدم لفهم عقولنا نحن. والسؤال الذي يفتح الأفق ليس كيف نجعل الآلة شفّافةً تماماً، فذلك قد يكون مستحيلاً كما أنّ شفافية العقل البشري مستحيلة، بل كيف نبني علاقةً ناضجةً مع كائنٍ معرفيٍّ نفهم بعضه ونجهل بعضه، فنستثمر قوّته دون أن نستسلم لغموضه. إنّ المستقبل لن يكون لمن يملك أقوى النماذج، بل لمن يملك أعمق فهمٍ لحدودها؛ فالحكمة لا تكمن في أن نعرف كلّ ما تعرفه الآلة، بل في أن نعرف بالضبط ما لا تعرفه هي عن نفسها. فهل نملك من التواضع المعرفي ما يكفي لأن نفتح الصندوق الأسود، لا لنزيل عتمته كلّها، بل لنتعلّم كيف نسير بثقةٍ في ضوئه الخافت؟