غير أنّ الخلفية وحدها لا تكفي؛ فالتحليل العميق يقتضي أن نفكّك ثلاثة أبعادٍ يختلط بعضها ببعضٍ حتى تضيع الحقيقة بينها. البعد الأول أخلاقيٌّ بحت: حين تختار الخوارزمية من يعيش ومن يموت، أين يذهب الضمير؟ هنا يتعرّى افتراضٌ خطيرٌ كثيراً ما يُمرَّر بلا تدقيق، وهو أنّ الآلة، لخلوّها من الانفعال والكراهية والتعب، ستكون أرحم من الجنديّ المنهك المرعوب. ويرى الكاتب أنّ هذا الافتراض مغالطةٌ خبيثة؛ فالرحمة ليست غياب الانفعال، بل حضور الضمير، والآلة لا تملك من الأول ولا من الثاني شيئاً. إنّ الجنديّ الذي يتردّد قبل أن يطلق النار على طفلٍ يحمل ما يشبه السلاح لا يتردّد لعطلٍ في حساباته، بل لأنّ في صدره صوتاً يصرخ، ولأنّ ضميره يتحمّل تبعة فعله أمام نفسه وربّه والتاريخ. أمّا المنظومة الذكية فتصنّف وتطابق وتطلق دون أن يثقل عليها شيء، إذ لا تحمل وزر ما تفعل ولا تستيقظ ليلاً على كابوس. والأخطر أنّ هذه المنظومات تتعلّم من بياناتٍ صنعها بشرٌ بكلّ تحيّزاتهم، فتغدو عنصريّة المُبرمج خوارزميّةً تقتل، ويتحوّل خطأ التصنيف الذي قد يبدو هامشياً في مختبرٍ إلى جثثٍ في قريةٍ نائية. البعد الثاني قانونيٌّ وسياسيّ: من يُحاسَب حين تخطئ الآلة؟ فالقانون الدوليّ الإنسانيّ بُني كلّه على فكرة المسؤولية، على أنّ ثمّة فاعلاً يُسأل ويُدان ويُعاقب. فإذا قصفت منظومةٌ ذاتيةٌ حفل زفافٍ ظنّته تجمّعاً معادياً، فمن المذنب؟ المبرمج الذي كتب الشيفرة قبل سنوات؟ القائد الذي أطلق المنظومة في ساحةٍ ملتبسة؟ الشركة التي صنعتها؟ أم الآلة التي «اجتهدت» فأخطأت؟ هنا تنفتح هوّةٌ في بنية العدالة نفسها، فجوة مسؤوليةٍ يسقط فيها الضحايا بلا قاتلٍ يُحاسَب، وقد حذّر باحثون في جامعة ستانفورد وفي أوكسفورد من أنّ غياب هذا الإسناد الواضح للمسؤولية قد يقوّض ركيزةً عمرها قرونٌ في قانون الحرب. أمّا البعد الثالث فاستراتيجيٌّ ووجوديّ، وهو الأعمق أثراً: ماذا يحدث للحرب نفسها حين تنخفض كلفتها البشرية إلى الصفر بالنسبة للطرف الأقوى؟ لقد كانت دماء الجنود، على فظاعتها، رادعاً صامتاً يجعل القادة يفكّرون مرّتين قبل خوض الحرب، ويجعل الشعوب تحاسب حكّامها على نعوش أبنائها العائدة. فإذا صار بوسع دولةٍ أن تخوض حرباً بأسرابٍ من الآلات دون أن تُرسل ابناً واحداً إلى الجبهة، فهل تبقى للحرب كلفةٌ سياسيةٌ تردع، أم تتحوّل إلى خيارٍ سهلٍ كلّما تعذّرت الدبلوماسية؟ ويرى الكاتب أنّ هذا هو الخطر الأشدّ خفاءً والأبعد أثراً: أن تصبح الحرب رخيصةً للأقوياء، فتفقد البشرية آخر ما كان يكبح جماحها.

وهنا يرى الكاتب أنّ جوهر القلق المعاصر ليس في أنّ الآلات ستتمرّد علينا، بل في أنّنا سنتنازل لها طوعاً عن أثقل ما يحمله الإنسان: مسؤولية إزهاق الروح. فالأنظمة لا تحتاج أن تبلغ وعياً أو نيّةً شرّيرةً لتصنع كارثة؛ يكفي أن نمنحها صلاحية القرار في لحظةٍ ملتبسةٍ لتتحوّل دقّتها المزعومة إلى مذبحةٍ موثّقة. ويرى الكاتب كذلك أنّ خطاب «الحرب النظيفة» الذي يصاحب هذه الأسلحة خطابٌ خادعٌ في جوهره؛ إذ يوحي بأنّ الأتمتة تجعل الحرب أدقّ وأرحم، بينما الحقيقة أنّها تجعلها أيسر وأكثر إغراءً وأقلّ خضوعاً للمساءلة. والمفارقة أنّ السلاح الذي يُسوَّق بوصفه أقلّ دمويّةً قد يكون أكثرها فتكاً على المدى البعيد، لا لأنّه يقتل أكثر في المعركة الواحدة، بل لأنّه يجعل قرار الحرب نفسه أهون، فتتكاثر الحروب الصغيرة الباردة التي لا يموت فيها من الأقوياء أحد، ويُسحَق فيها الضعفاء بصمت.

ولأنّ النقد دون عملٍ ترفٌ فكريّ، فإنّ ثمّة ركائز عمليةً يقترحها الكاتب لعبور هذا المنعطف بوعي. الركيزة الأولى أن نتمسّك بمبدأ «السيطرة البشرية المعتبرة» بوصفه خطّاً أحمر لا يُتجاوز، فلا يُفوَّض قرار إزهاق الروح لآلةٍ مهما بلغت دقّتها، إذ تُجمع كبريات المؤسسات البحثية على أنّ بقاء الإنسان مسؤولاً عن قرار القتل ليس ترفاً أخلاقياً بل ضرورةٌ لصون بنية القانون الإنسانيّ كلّها. والركيزة الثانية أن نسعى إلى حوكمةٍ دوليةٍ مُلزمةٍ تنظّم هذه الأسلحة قبل انتشارها لا بعده، على غرار ما فعلته الإنسانية مع الأسلحة الكيميائية والبيولوجية، فالاتفاق على القواعد قبل وقوع الكارثة أرخص ألف مرّةٍ من ندم ما بعدها. والركيزة الثالثة أن نستثمر في الشفافية وقابلية التدقيق، فلا تبقى الخوارزميات صناديق سوداء تقتل بلا تفسير، بل تُصمّم بحيث يمكن مراجعة قراراتها وتعليلها ومساءلة صانعيها، فقد نبّهت أبحاثٌ في معهد ماساتشوستس للتقنية إلى أنّ ما لا يمكن تفسيره لا يمكن محاسبته. والركيزة الرابعة، وهي الأعمق، أن نربّي وعياً عاماً يقاوم إغراء «الحرب بلا كلفة»، فيظلّ المجتمع رقيباً على قادته، رافضاً أن تتحوّل دماء الآخرين إلى رقمٍ في تقريرٍ لا يكلّف أحداً شيئاً. والركيزة الخامسة أن نقيم جسراً متيناً بين من يصنع هذه التقنية ومن يفكّر في عواقبها، فلا يُترَك المهندس وحده يرسم حدود ما هو ممكنٍ بمعزلٍ عن الفيلسوف والفقيه ورجل القانون؛ ذلك أنّ ما يصلح حلّاً هندسياً قد يكون كارثةً أخلاقيةً إن لم يُوزَن بميزانٍ أوسع من ميزان الكفاءة وحده. وهنا يجد السياق العربي موقعه؛ فالمنطقة التي اكتوت طويلاً بنيران الحروب أحوج ما تكون إلى صوتٍ يقود لا أن يُقاد، يسهم في صياغة القواعد الأخلاقية لهذه التقنية بدل أن يتلقّاها مفروضةً عليه. ولعلّ في رؤية المملكة 2030، حين جعلت تطوير القدرات التقنية المتقدّمة مقروناً بمنظومةٍ من القيم والمسؤولية، إشارةً إلى أنّ التفوّق التقنيّ والوعي الأخلاقيّ ليسا خطّين متوازيين لا يلتقيان، بل ضرورتان متلازمتان لأمّةٍ تريد أن تملك أدوات عصرها دون أن تفقد بوصلتها.

فإلى أين نمضي؟ يرى الكاتب أنّ السؤال الذي افتُتح به هذا المقال — هل تقتل الآلة ولا يشعر أحدٌ بثقل القتل — ليس سؤالاً عن قدرات الآلة بقدر ما هو سؤالٌ عن إنسانيّتنا نحن. فالآلة، مهما بلغت من دقّةٍ وسرعة، لا تستطيع أن تحمل عنّا وزر ما نأمرها به؛ تستطيع أن تطلق النار، لكنّها لا تتحمّل المسؤولية، وأن تصيب الهدف، لكنّها لا تحاسب نفسها إن أخطأت، وأن تنهي حياةً في جزءٍ من الثانية، لكنّها لا تعرف أيّ عالمٍ كاملٍ أطفأت. ولعلّ أنبل ما يمكن أن نخرج به من هذا المنعطف ألّا نسأل أوّلاً «ماذا تستطيع هذه الأسلحة أن تفعل»، بل «ما الذي لا ينبغي لها أن تفعله مهما استطاعت»، فنعيد للضمير موقعه في قلب القرار، لا على هامشه. إنّ المعركة الحقيقية القادمة ليست بين جيشٍ وجيش، بل بين إنسانيتنا وإغراء التخلّي عنها بحجّة الكفاءة، وما دام قرار من يحمل وزر الدم بأيدينا لا بأيدي خوارزمياتنا، فإنّ المستقبل، مهما تكفّلت الآلة بحساباته، يبقى في جوهره أمانةً أخلاقيةً لا تستطيع آلةٌ أن تنتزع منّا حقّ حملها، ولا أن تعفينا من ثقلها.