باحثون يحللون المقايضات في تقنيات توجيه نماذج اللغة الكبيرة

نشر باحثون من جامعة Universitat Pompeu Fabra دراسة تستكشف كيف يمكننا التحكم في مخرجات نماذج اللغة الكبيرة أو تعديلها. فحص الفريق التقنيات المستخدمة لإضافة مفاهيم جديدة أو إزالة مواضيع محددة من ردود الذكاء الاصطناعي.

وجد الباحثون توتراً كبيراً بين التحكم وجودة اللغة الطبيعية. فعندما يستخدم المطورون تقنيات توجيه فعالة لإجبار النموذج على التصرف بطريقة معينة، غالباً ما تتأثر سلاسة النص، مما يجعل النتائج تبدو آلية أو غير طبيعية.

أشارت الدراسة إلى أن أساليب التوجيه الشائعة أقل فعالية بشكل ملحوظ عند تطبيقها على النماذج التي خضعت مسبقاً للضبط عبر التعليمات. هذه النماذج المضبوطة مصممة غالباً لاتباع أوامر محددة، مما قد يجعلها تقاوم التعديلات السلوكية العميقة.

في حين أن التلقين البسيط والضبط الدقيق فعالان لإضافة معلومات جديدة، إلا أنهما يواجهان صعوبة عندما يكون الهدف هو إزالة مفاهيم محددة تماماً. كما لاحظت الدراسة أن مقاييس النص المؤتمتة يمكن أن تكون بديلاً موثوقاً ومنخفض التكلفة للتقييمات البشرية الباهظة.

هل تساءلت يوماً عما إذا كان إجبار الذكاء الاصطناعي على أن يكون أكثر جموداً يجعله أقل ذكاءً في محادثاته؟

تقتصر هذه الدراسة على أساليب التكييف التي اختبرها المؤلفون فقط. وهي لا تغطي جميع البنيات البرمجية الخاصة، كما تشير بوضوح إلى أن التوجيه عبر التنشيط قد يتصرف بشكل مختلف اعتماداً على ما إذا كان النموذج الأساسي قد خضع للضبط بالتعليمات أو تُرك في حالته الأولية.