هل نثق في الذكاء الاصطناعي؟ الجواب في معايرة الثقة

سألت دراسة عالمية أكثر من 48,000 شخص في 47 دولة: هل أنتم مستعدون للثقة بأنظمة الذكاء الاصطناعي؟ كان الجواب أنّ 46% فقط مستعدون. لكنّ الدراسة نفسها، التي أنجزتها جامعة ملبورن مع «كي بي إم جي» ونُشرت عام 2025، وجدت أنّ 66% يعتمدون في العمل على مخرجات هذه الأنظمة دون تقييم دقتها، وأنّ 56% أخطؤوا في عملهم بسببها. نثق قليلًا في الكلام، ونتّكل كثيرًا في الفعل. فأين الخلل؟

الثقة مقياسٌ يُضبط

عرّف جون لي (John D. Lee) وكاترينا سي (Katrina A. See) في مراجعتهما المنشورة في «العوامل البشرية» عام 2004 ما سمّياه المعايرة: مطابقة ثقة الإنسان لقدرة الأتمتة الفعلية. فإن علت الثقة على القدرة وقع «سوء الاستعمال»، أي اتكال على ما لا تضمنه الأداة. وإن نزلت عنها وقع «الإهمال»، أي رفض ما ينفع. وكلا الانحرافين خطأ في المعايرة، وليس حلّه رفض الأداة ولا التسليم لها.

ماذا تقول أرقام الثقة؟

يبيّن التقرير نفسه أنّ الناس يثقون بقدرة الذكاء الاصطناعي التقنية أكثر من ثقتهم بأمانه وأثره في المجتمع، وأنّ هذا النمط يتكرر في كل الدول المشمولة. وتبلغ الثقة 57% في الاقتصادات الناشئة مقابل 39% في المتقدمة، ويرتفع الاستعمال المقصود المنتظم إلى 80% في الأولى مقابل 58% في الثانية. ولا تدلّ الأرقام وحدها على أنّ الثقة الأعلى مستحقّة.

وفي لمحة السعودية من الدراسة، قال 62% إنهم مستعدون للثقة بالذكاء الاصطناعي، وقال 70% إنهم اعتمدوا على مخرجاته في العمل دون التحقق من دقتها، و58% إنهم أخطؤوا في العمل بسببه، ورأى 60% أنّ تنظيمه لازم. وهي استبيانات تعبّر عن آراء المشاركين وسلوكهم المعلن لا عن قياس مباشر للأخطاء.

فجوة المسؤولية

كتب أندرياس ماتياس (Andreas Matthias) عام 2004 أنّ المصنّعين والمشغّلين تحمّلوا تاريخيًّا مسؤولية ما تفعله آلاتهم، لكنّ الآلات المتعلّمة، كالشبكات العصبية، لا يستطيع مشغّلوها توقّع سلوكها، فلا يصحّ تحميلهم تبعة ما لم يتوقعوه. ورأى أنّ المجتمع أمام خيارين: ترك هذه الآلات، وهو غير واقعي في نظره، أو قبول «فجوة مسؤولية» لا تسدّها المفاهيم التقليدية. وهذه حجة فلسفية لا حكم قانوني، لكنها تشرح لماذا تبدو المساءلة غائمة بين مطوّر ومشغّل ومستعمل.

والسؤال العملي في كل مؤسسة: من يوقّع على القرار؟ ومن يشرحه لمن تضرّر منه؟

الاتكال لا يزول بالتدريب

أظهرت مراجعة باراسورامان ومانزي (Parasuraman & Manzey) عام 2010 أنّ «التحيّز للأتمتة» يُنتج أخطاء الإغفال والفعل حين تكون الأداة غير كاملة، وأنه يستمر رغم التدريب والتعليمات. أي أنّ قولنا «سنتحقق» لا يكفي، بل تلزم تصاميم وإجراءات تُلزم بالتحقق حيث يعظم الخطر.

ثلاث عادات للثقة المعايرة

1. اعرف نطاق الأداة: ثق بها حيث ثبتت كفاءتها بقياس، وتحفّظ حيث لم تُختبر.
2. اربط التحقق بحجم الضرر: كلما عظم أثر القرار في إنسان، زادت المراجعة.
3. اجعل المساءلة اسمًا: لا يقبل القرار المصيري إلا وله صاحبٌ بشريٌّ يشرحه ويتحمل تبعته.

فالثقة التي تُمنح للآلة المجرّدة هشّة. أما الثقة المبنية على منظومة نزيهة تحيط بالآلة، من اختبار مستقل واعترافٍ بالخطأ ووضوحٍ في الحدود، فتنمو يومًا بيوم. والقرار الذي يمسّ الناس أمانةٌ في عنق صاحبه، مهما أحسنت الأداة.