باحثون يطورون طريقة جديدة لضبط نماذج اللغة الكبيرة عبر تقمص الأدوار الآمنة

تعاني نماذج اللغة الكبيرة غالباً من محاولات كسر الحماية التي تدفعها لإنتاج محتوى ضار. وتركز الطرق التقليدية مثل الضبط الدقيق عادةً على تعليم النموذج متى يجب عليه رفض استفسارات معينة، لكن هذا الأسلوب قد يؤدي إلى الإفراط في الرفض أو ظهور ثغرات عندما يستخدم المهاجمون طرقاً جديدة.

يقدم بحث جديد تقنية تسمى الضبط الدقيق الموجه للدور الآمن (Supervised Safe-Role Fine-Tuning) أو اختصاراً SSRFT. وبدلاً من تدريب النموذج على التعرف على كلمات أو محفزات سيئة محددة ومنعها، قام الباحثون بتدريب النموذج على تقمص شخصية آمنة ومتسقة.

أنشأ الفريق مجموعة بيانات تسمى SRQA، تجمع بين أسئلة تعتمد على علم النفس، وأمثلة على محاولات كسر الحماية، وتعليمات واضحة لشخصية آمنة. ومن خلال التدريب على هذه البيانات، تعلمت النماذج كيفية الاستجابة بطريقة تتوافق مع معايير السلامة عبر العديد من السيناريوهات المختلفة.

أظهرت التجارب أن النماذج التي استخدمت تقنية SSRFT تعاملت مع المحاولات الضارة بفعالية أكبر من الضبط الدقيق التقليدي. كما كانت أقل عرضة للخداع بواسطة هجمات حقن النصوص المسبقة، وظلت مفيدة في الإجابة على الأسئلة العادية دون أن تصبح مقيدة أكثر من اللازم.

كيف تعتقد أن هذا التحول نحو السلامة القائمة على الأدوار سيغير طريقة تفاعلنا مع مساعدي الذكاء الاصطناعي في المستقبل؟

من المهم ملاحظة أن هذا البحث لا يلغي جميع مخاطر السلامة. ويشير المؤلفون إلى أن الدراسة تتضمن أمثلة على لغة ضارة لتوضيح هذه التأثيرات. علاوة على ذلك، تم اختبار الأسلوب على نماذج أساسية وتوجيهية محددة، وقد تختلف فعاليته عند تطبيقه على بنيات أكبر أو مختلفة.