الذكاء الاصطناعي خادمٌ أمين بشرط: أين ينفع وأين يخدع؟

اختبر باحثون في ألمانيا وهولندا سبعةً وعشرين طبيب أشعة على خمسين صورة ماموغرام، وعرضوا على الأطباء اقتراحات من نظام ذكاء اصطناعي، بعضها صحيح وبعضها خاطئ. فماذا كانت النتيجة حين أخطأ الاقتراح؟ هذا السؤال يلخّص معنى «الخادم الأمين».

حيث ثبت النفع

لا ينكر عاقل أن لهذه التقنية ثمرات. ففي أكتوبر 2024 مُنحت جائزة نوبل للكيمياء مناصفةً بين ديفيد بيكر (David Baker) عن تصميم البروتينات حاسوبيًّا، وديميس هسابيس (Demis Hassabis) وجون جمبر (John Jumper) عن توقع بنية البروتينات. واستعمل الأخيران نموذج «ألفافولد 2» (AlphaFold2) في مسألة عمرها نحو خمسين عامًا. وذكرت الجزيرة أنه حسب بنية البروتينات البشرية كلها وتوقع بنية ما يقارب 200 مليون بروتين اكتشفها الباحثون، وأن أكثر من مليوني شخص في 190 دولة استعملوه.

وفي الطب ذكرنا في مقال «ما الذي أثبته الذكاء الاصطناعي لجودة حياتنا فعلًا؟» دراسة «نيتشر» عن فحص الثدي: نظام قلّل الإنذارات الكاذبة والفائتة على سجلات سابقة، وخلص مؤلفوها إلى أنها تدعم تجارب سريرية لاحقة. هذه ثمار حقيقية في مهام محددة.

حين يصير الاتكال خطرًا

لكن النفع يقود إلى حالة نفسية قديمة: أن نصدّق الآلة لأنها كثيرًا ما أصابت. ويسميها الباحثون «انحياز الأتمتة» (automation bias). وقد قاسها فريق بقيادة توماس دراتش (Thomas Dratsch) من مستشفى جامعة كولونيا، ونشر نتيجته في مجلة «Radiology» عام 2023: قرأ 27 طبيب أشعة خمسين ماموغرامًا مع اقتراحات تصنيف من نظام ذكي. وحين كان الاقتراح خاطئًا، هبطت دقة الأطباء قليلي الخبرة إلى أقل من 20%، وهبطت دقة المتمرّسين (أكثر من 15 سنة خبرة في المتوسط) من 82% إلى 45.5%.

وقيد مهم: هذا اختبار معملي بعدد محدود من الأطباء والصور، لا حصيلة ممارسة سريرية. غير أن الدرس يتخطى الأشعة: الخبرة وحدها لا تحمي من الانسياق خلف جواب يبدو واثقًا. وهو أشد خطرًا حين تكون الآلة صائبة في أغلب الأحيان، لأن العين تكفّ عن المراجعة.

ما الذي يجعل الخادم أمينًا؟

الأمانة هنا ليست خلقًا تُنسبه إلى الآلة، وإنما هي ترتيبات تضعها المؤسسة. ومما يُقترح في ضوء هذه الأدلة (وهو استنتاجنا لا نصّ الدراسة):

• رأيٌ بشري مستقل أولًا. يقرأ الطبيب أو المدقق الحالة ويدوّن تقديره قبل أن يرى اقتراح الآلة.
• بيان حدود النظام. أن يُعرَف أين يخطئ وكم يخطئ، لا أن يُقدَّم جوابه كأنه حكم.
• تدقيق دوري لأداء النظام في بيئته الفعلية، لا في بيئة تجريبه.
• مساءلة واضحة: من يوقّع على القرار؟ الجواب دائمًا إنسان أو جهة، لا خوارزمية.

وتتصل بهذه المعاني مبادئ أخلاقيات الذكاء الاصطناعي التي أصدرتها الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) في إصدارها الثاني عام 2023، وهي سبعة: العدالة، والخصوصية والأمن، والإنسانية، والمنافع الاجتماعية والبيئية، والموثوقية والسلامة، والشفافية وقابلية التفسير، والمساءلة والمسؤولية. وتصنّف الأنظمة بحسب درجة المخاطرة: فما كان قليل المخاطر لا يلزم بالامتثال وإن أوصي به، وما كان محدود المخاطر أو عالِيها يلزم بالامتثال مع ضوابط إضافية، وما كان غير مقبول المخاطر يُمنع. وتفصيل هذه المبادئ العامة في مقال «الذكاء الاصطناعي المسؤول: أربعة مبادئ للحوكمة والثقة».

ثقة واعية

لا يعني هذا أن نتردد في الاستعانة بالآلة، فمن ترك الأسباب النافعة فقد قصّر. وإنما نستعين بها كما يستعين المرء بخادم ثقة: نشكر له إتقانه، ونسأله عن حدوده، ونعرف أن التبعة علينا. فالأمانة في الآلة مصدرها صنّاعها وأهلها، وفي الإنسان مصدرها الله ثم الضمير، ونرجو العاقبة الحسنة لمن جمع بين الأخذ بالأسباب والتوكل.