التزييف العميق: حين يصير الدليل المرئي موضع شك

في يناير 2024 أبلغت شركة الهندسة البريطانية «أروب» (Arup) شرطة هونغ كونغ بأن موظفًا في مكتبها هناك حوّل نحو 25.6 مليون دولار (200 مليون دولار هونغ كونغي) في 15 دفعة. بدأ الأمر برسالةٍ ارتاب فيها، ثم انضمّ إلى مكالمة مرئية ظهر فيها مديره المالي وزملاء آخرون، فاطمأنّ. وتبيّن أن الوجوه والأصوات كلها مصنوعة. الشركة نفسها قالت إن أنظمتها الداخلية لم تُخترق؛ فلم تُخدَع الأجهزة، بل خُدعت العين والأذن.

ماذا نعني بالتزييف العميق؟

هو توليدٌ كامل لصوتٍ أو صورة أو مقطع بشبكاتٍ عصبية تتعلّم ملامح إنسانٍ بعينه ونبرته حتى تصعب التفرقة بين النسخة والأصل. وهو غير التعديل التقليدي بالصور، لأن الآلة هنا تُنتج المحتوى لا تقصّه ولا تلصقه. وتحذّر لجنة التجارة الفيدرالية الأمريكية (FTC) من أن المحتال قد يكتفي بمقطعٍ صوتي قصير منشور على الإنترنت ليستنسخ صوت قريبٍ لك، فيتصل بك مستغيثًا طالبًا مالًا. وللتوسّع في الاحتيال السيبراني انظر مقال «الذكاء الاصطناعي والأمن السيبراني»؛ وهنا نقف عند سؤال الثقة.

الضحية الأولى فردٌ لا رئيس دولة

يُظنّ أن أخطر التزييف سياسي. غير أن تقرير «ديبتريس» (Deeptrace) لعام 2019، وهو من أوائل المسوح، رصد 14,678 مقطعًا مزيّفًا، 96% منها مواد فاضحة مفبركة تستهدف نساءً دون رضاهن. ويُحتاط في هذا الرقم: فنافذة الرصد شهران فقط من عام 2019، وتغيّر الحال منذ ذلك التاريخ. لكنه ينبّه إلى أن أول المتضررين أفرادٌ عاديون، وأن صون الأعراض والسمعة من مقاصد الشريعة التي تجعل هذا الباب أولى بالحماية.

عائد الكذّاب

نشر الباحثان القانونيان بوبي تشيسني (Bobby Chesney) ودانييل سيترون (Danielle Citron) عام 2019 دراسةً في «مجلة كاليفورنيا للقانون» صاغا فيها مفهوم «عائد الكذّاب» (liar's dividend): كلما عرف الناس أن الصوت والفيديو يمكن تزييفهما، سهُل على المخطئ أن يُنكر تسجيلًا صحيحًا بقوله إنه مفبرك. فلا يضيع اليقين بالباطل وحده، بل يضيع معه اليقين بالحق.

ويُضاف إلى ذلك أن الزيف سريع الانتشار. فقد حلّلت دراسة لباحثين في معهد ماساتشوستس للتقنية (MIT) نحو 126 ألف سلسلة أخبار على «تويتر» بين 2006 و2017، ووجدت أن الأخبار الكاذبة كانت أرجح بنحو 70% أن تُعاد مشاركتها من الصادقة، وأن البشر لا الحسابات الآلية هم من نشرها في الأساس. والدراسة عن الأخبار الكاذبة عمومًا لا عن التزييف العميق، لكنها تُظهر طبيعة المتلقّي الذي سيصل إليه المقطع المصنوع.

لا يكفي أن نكشف

ما دام المزيِّف والكاشف يتعلّمان كلٌّ من الآخر، فلا يُرجَّح أن يحسم الكشف الآلي وحده السباق. لذلك تتجه الجهود إلى جهتين متكاملتين. الأولى تقنية، فتدعو إرشادات الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) إلى وسم المحتوى المصطنع بعلامةٍ مائيةٍ ظاهرة وإلى اعتماد معايير إثبات المصدر. والثانية تنظيمية وقانونية: موافقةٌ صريحة من صاحب الصورة والصوت، وعقوباتٌ تتناسب مع الجُرم، وقنواتٌ للإبلاغ تذكرها الإرشادات، منها تطبيق «كلنا أمن» ووحدة الجرائم المعلوماتية في وزارة الداخلية. وتحتاج هذه القوانين إلى توازنٍ لا يخنق التعبير المشروع، وهذا حدّ يرسمه أهل الاختصاص.

ما تفعله أنت

• اقطع المكالمة وعاود الاتصال برقمٍ تعرفه لصاحبه، كما توصي FTC؛ فلا تثق بالصوت وحده.
• اطلب قناةً ثانية قبل أي تحويل مالي، ولو كان الطالب «مديرك» أو «ابنك»، واتفق مع أسرتك أو فريقك على سؤالٍ لا يعرفه غيركم.
• لا تُعد نشر مقطعٍ صادم قبل أن تتثبّت من مصدره، فالصدق أمانة في النقل كما هو أمانة في القول.
• إن كنت ضحية، فاحفظ الدليل وبلّغ الجهات المختصة والمنصة.

وليس المطلوب أن نشكّ في كل شيء؛ فالمجتمع الذي لا يثق بشيءٍ مشلول، كما أن الذي يثق بكل شيءٍ مخدوع. المطلوب ثقةٌ تسأل أولًا: من نقل هذا، ومن أين، وهل أستطيع أن أتأكد من طريقٍ آخر؟