الاستخدام المسؤول للذكاء الاصطناعي: المسؤولية عند من يطلب الجواب

في عام 1960 كتب عالم الرياضيات نوربرت فينر (Norbert Wiener) في مجلة «ساينس» (Science) أنّ من يستعين بآلةٍ لا يستطيع التدخل في عملها بعد أن تبدأ، فعليه أن يتأكد أنّ الغاية التي وُضعت فيها هي الغاية التي يريدها حقًّا، لا مجرد صورةٍ ملوّنة منها. جملةٌ عمرها أكثر من ستين عامًا، وما زالت أصدق وصفٍ لما نقع فيه اليوم: نطلب من الآلة أن تكون مسؤولة، ونُعفي أنفسنا.

الطلاقة ليست صدقًا

النموذج اللغوي قد يقدّم معلومةً خاطئة بثقةٍ تامة. وفي ورقة نشرتها OpenAI في سبتمبر 2025 حاول الباحثون تفسير استمرار هذه «الهلوسة»: التدريب والتقييم المعتادان يكافئان التخمين الواثق على قول «لا أعلم»، فيتعلم النموذج أن يخمّن. واقترحوا تعديل المقاييس بحيث يُعاقَب الخطأ الواثق أشدّ من التحفّظ. أي أنّ المشكلة قابلة للتخفيف، لكنها لم تزُل بعد، ولهذا يظلّ على القارئ دورٌ لا ينوب عنه فيه أحد. وقد شرحنا أصل الظاهرة في مقال «كيف تعمل النماذج اللغوية الكبيرة (LLM) مثل ChatGPT؟».

تنفع هنا وتضرّ هناك

أجرى باحثون، في ورقة صدرت عن كلية هارفارد للأعمال بالتعاون مع مجموعة بوسطن الاستشارية، تجربةً على 758 مستشارًا وزّعوهم عشوائيًّا بين من يستخدم نموذجًا متقدمًا ومن لا يستخدمه. في ثمانية عشر مهمّةً داخل ما سمّوه «حدود الأداة» أنجز المستخدمون 12.2% مهامّ أكثر، وأسرع بـ25.1%، بجودةٍ أعلى بصورة دالّة. وفي مهمّةٍ إدارية معقدة خارج الحدود، كان المستخدمون أقلّ احتمالًا بمقدار 19 نقطة مئوية لتقديم حلٍّ صحيح. وسمّى الباحثون هذا التفاوت «الحافّة المتعرّجة». فالأداة قد تُحسن مهمّةً وتخذلك في جارتها، ولا أحد يخبرك أين الحدّ.

الثقة التي تُطفئ التفكير

استطلعت دراسة لباحثين في «مايكروسوفت» (Microsoft) 319 من العاملين في المعرفة حول 936 مثالًا من استخدامهم للأدوات التوليدية. وجدت أنّ الثقة العالية بالأداة ارتبطت بتفكير نقديٍّ أقل، وأنّ الثقة بالنفس في المهمّة ارتبطت بتفكير نقديٍّ أكثر. والنتائج ذاتية الإبلاغ وارتباطية، فلا تثبت أنّ الأداة تُضعف العقل. لكنها تنبّه إلى عادةٍ يسهل الوقوع فيها: أن نصدّق الجواب لأنه حسن الصياغة.

الأنيس الذي لا يخالف

تتبّعت تجربة عشوائية أجراها باحثون من معهد ماساتشوستس للتقنية و«أوبن إيه آي» (OpenAI) 981 مشاركًا أربعة أسابيع وأكثر من 300 ألف رسالة. لم تُحدث الظروف المُسندة (نص أو صوت، موضوع شخصي أو عام) فروقًا دالة في الوحدة والاعتماد العاطفي. لكنّ من أكثر الحديث مع الروبوت باختياره كانت نتائجه أسوأ في الوحدة وقلة مخالطة الناس. وهذا ارتباط لا سببية، فقد يكون الأكثر وحدةً هو الأكثر حديثًا. ومع ذلك يبقى الأنسُ الذي لا يعترض ولا يملّ جديرًا بالحذر.

قواعد تكفي للبداية

• تحقّق من الأرقام والأسماء والاقتباسات قبل أن تبني عليها قرارًا، ولا سيما في الطبّ والقانون والمال.
• احمِ البيانات: لا تودِع سرًّا في نظام لا تعرف مصير ما تكتبه فيه؛ وانظر مقال «الخصوصية في عصر الذكاء الاصطناعي».
• أفصح: إذا كان للأداة دورٌ جوهري في عملٍ تنشره باسمك فاذكر ذلك، فالأمانة تقتضي ألّا يُظنّ بك ما لم تفعل.
• أبقِ القرار عندك: الأداة تقترح والمسؤول إنسان؛ وفي المسائل المصيرية يُراجع الأمر مختصٌّ بشري. وفي مقال «الذكاء الاصطناعي المسؤول: أربعة مبادئ للحوكمة والثقة» تفصيل المساءلة المؤسسية.
• امرُن عقلك: اكتب بنفسك مرةً، واستنتج قبل أن تسأل، واجعل الأداة مراجعًا لا بديلًا.

وليس في هذا تهويل ولا تزهيد، بل ميزانٌ يليق بمن يحمل أمانة العلم: يأخذ بالأسباب، ويتحرّى، ويعلم أن المسؤولية لا تُفوَّض إلى آلة.