التعلّم بالقليل وبلا أمثلة: هل استغنت الآلة عن البيانات؟
نموذجٌ يتعرّف إلى فئةٍ لم يرَ منها صورة، وآخر يؤدي مهمةً جديدة بمثالين. هل انتهى عهد البيانات الضخمة؟ الجواب: لا، بل انتقلت إلى موضعٍ آخر.

كبسولة نانودقيقة واحدة
«التعلّم بالقليل» أن يؤدي النموذج مهمةً جديدة من مثالٍ أو بضعة أمثلة، و«التعلّم بلا أمثلة» أن يعتمد على وصفٍ لغوي فقط. وهذا لا يعني أن الآلة استغنت عن البيانات، فالنماذج الكبيرة تحمل معرفةً هائلة اكتسبتها في تدريبٍ مسبق على نصوصٍ وصورٍ ضخمة، ثم تعيد توظيفها في المهمة الجديدة. فالصفر هنا صفرُ أمثلةٍ للمهمة لا صفرُ معرفة. وهو يفتح بابًا للمجالات واللغات قليلة الموارد، لكنه هشّ: فمجرد تغيير ترتيب الأمثلة في الطلب قد ينقل الدقة من قريبةٍ من الصدفة إلى قريبةٍ من أفضل النتائج. فالقيمة تنتقل من جمع الكثير إلى حسن اختيار القليل.
المقال مطولًا طيّ المقال
قل لشخصٍ لم يرَ حمار الوحش قط إنه «حصانٌ مخطَّط»، فيعرفه حين يراه. هذا ما حاولت الآلة تقليده منذ سنوات: أن تتعرّف إلى ما لم تدرَّب عليه صراحةً، اعتمادًا على ما تعرفه سلفًا. والسؤال الذي يتردّد: هل صار الذكاء الاصطناعي لا يحتاج إلى بيانات؟
ثلاث عبارات تُخلط
التعلّم بالقليل (few-shot) أن تُعرض على النموذج أمثلةٌ معدودة، والضربة الواحدة (one-shot) مثالٌ واحد، والتعلّم بلا أمثلة (zero-shot) ألّا يرى مثالًا للمهمة أصلًا، بل يكتفي بوصفها. والخلط الشائع أن «بلا أمثلة» تعني «بلا بيانات»، وهو غير صحيح كما سيتّضح.
الفكرة أقدم من الضجيج
في دراسة نشرها لي فاي-فاي (Li Fei-Fei) وزميلاها عام 2006 في دورية IEEE، بيّن الباحثون أن بالإمكان تعلّم فئةٍ بصرية جديدة من صورةٍ واحدة أو بضع صور، إذا أُعيد توظيف ما تعلّمه النظام من فئاتٍ سابقة حتى لو لم تتشابه معها، وجرّبوا ذلك على 101 فئة. وفي عام 2009 قدّم كريستوف لامبرت (Christoph Lampert) وزملاؤه تصنيفًا لفئاتٍ لا صور لها في التدريب: وُصفت الفئة بسماتٍ يكتبها البشر، كالشكل واللون، تعلّمها النظام سلفًا من صورٍ أخرى. وبنوا لذلك مجموعة «حيوانات بسمات» (Animals with Attributes): أكثر من 30 ألف صورة لخمسين نوعًا من الحيوان و85 سمة. فالجذر قديم، وما تغيّر هو حجم المعرفة السابقة.
ما الذي غيّرته النماذج الكبيرة؟
في ورقة «النماذج اللغوية متعلّمون بالقليل» (2020) بيّن باحثو شركة أوبن إيه آي (OpenAI) أن نموذج «جي بي تي-3» يؤدي مهامّ جديدة من تعليمات وأمثلةٍ تُكتب في الطلب نفسه، دون تحديثٍ لأوزانه ولا إعادة تدريب. وفي عام 2021 عرضت الشركة نموذج «كليب» (CLIP) المدرَّب على 400 مليون زوج من الصور والنصوص، فطابق دقة نموذج «ريزنت-50» (ResNet-50) المعروف على مجموعة «إيماج نت» (ImageNet) دون أن يستعمل أيًّا من أمثلتها التدريبية البالغة 1.28 مليون.
والدرس في الرقمين نفسيهما: البيانات الضخمة لم تغب، بل انتقلت من واجهة كل مهمة إلى أساسٍ عامٍّ يُبنى مرةً ويُستثمر مرارًا. ويُرجَّح أن كلفة بناء هذا الأساس عالية، فلا ينبغي أن نفهم من «بالقليل» أنه «بالأرخص» على مستوى المنظومة كلها.
هشاشة لا يكشفها العنوان
يتردّد أن اختيار الأمثلة تفصيلٌ ثانوي، والأبحاث تقول غير ذلك. فقد وجد تشاو (Tony Zhao) وزملاؤه عام 2021 أن أداء «جي بي تي-3» بالقليل «غير مستقر»: تغيير صياغة الطلب أو اختيار الأمثلة أو ترتيبها قد ينقل الدقة من قريبةٍ من الصدفة إلى قريبةٍ من أحدث ما بلغته الطرائق الأخرى. ووجد يائو لو (Yao Lu) وزملاؤه أن ترتيب الأمثلة وحده يكفي لإحداث هذا التفاوت، وأن الترتيب الجيد لنموذجٍ لا ينتقل بالضرورة إلى نموذجٍ آخر. فتقليل الأمثلة يرفع من وزن كل مثالٍ منها: مثالٌ منحاز أو غامض قد يضلّل النموذج كله.
ما الذي ينفع من هذا؟
- تقييمٌ على حالاتك أنت قبل الاعتماد: لا تكفي نتائج المختبر.
- حسن اختيار الأمثلة وتجربة صياغاتٍ وترتيباتٍ مختلفة، فهذه صنعةٌ تُتعلّم.
- مجموعاتٌ صغيرة عالية الجودة في المجالات الحسّاسة، ولا سيما اللغات والمواضيع قليلة الموارد. ويُرجَّح أن يفيد هذا اللغة العربية وسياقاتها، لكنه يحتاج إلى قياسٍ لا إلى افتراض؛ وتفصيل ذلك في مقال «الذكاء الاصطناعي العربي».
- إبقاء الإنسان حكَمًا حيث يكلّف الخطأ كثيرًا، كما في مقال «الذكاء الاصطناعي المسؤول: أربعة مبادئ للحوكمة والثقة».
وتغيّرت بهذا علاقتنا بالنموذج قليلًا: من برمجته بآلاف الأمثلة الصامتة إلى محاورته بما يشبه تعليم تلميذٍ نجيب. ويبقى حسن اختيار المثال أثمنَ من كثرة الأمثلة. فهل نُحسن أن نقول للآلة الكلمة الواحدة التي تغني عن ألف مثال؟
المراجع
- C. Lampert, H. Nickisch, S. Harmeling, Learning to Detect Unseen Object Classes by Between-Class Attribute Transfer, CVPR (2009)
- L. Fei-Fei, R. Fergus, P. Perona, One-shot Learning of Object Categories, IEEE Transactions on Pattern Analysis and Machine Intelligence 28(4): 594–611 (2006)
- T. Brown et al., Language Models are Few-Shot Learners, arXiv:2005.14165 (2020)
- A. Radford et al., Learning Transferable Visual Models From Natural Language Supervision, arXiv:2103.00020 (2021)
- T. Zhao, E. Wallace, S. Feng, D. Klein, S. Singh, Calibrate Before Use: Improving Few-Shot Performance of Language Models, arXiv:2102.09690 (2021)
- Y. Lu, M. Bartolo, A. Moore, S. Riedel, P. Stenetorp, Fantastically Ordered Prompts and Where to Find Them, arXiv:2104.08786 (2021)


