باحثون يكتشفون أن ذاكرة تدريب الذكاء الاصطناعي تؤدي إلى نسيان المعلومات القديمة
كشفت دراسة جديدة كيف تؤدي خوارزميات التحسين الشائعة إلى محو المعرفة السابقة للنماذج أثناء محاولة تحسين أدائها.
كشفت ورقة بحثية جديدة عن سبب مفاجئ يجعل النماذج اللغوية تفقد المعلومات التي تعلمتها سابقاً أثناء مرحلة الضبط الدقيق. فحتى عندما يتم تحديث النموذج لتحسين أدائه، فإنه قد يتخلص بشكل متناقض من الإجابات التي كان قد أتقنها بالفعل.
تعتمد عملية تدريب الذكاء الاصطناعي الحديثة على أدوات تحسين مثل Adam، والتي تستخدم تقنية "الزخم" لتوجيه التعلم. يحتفظ الزخم بسجل للتحديثات السابقة لجعل التدريب أكثر سلاسة. ومع ذلك، أظهرت الدراسة أن هذا السجل التاريخي قد يعمل ضد مصلحة النموذج.
تكشف هذه النتائج مجتمعة كيف يمكن لذاكرة أداة التحسين أن تؤدي إلى تآكل السلوك المتعلم حتى بينما يعمل التدرج الحالي على الحفاظ عليه.
تخيل أنك تدرس لامتحان ثانٍ بينما تحاول الحفاظ على معلومات امتحانك الأول. إذا ركزت كثيراً على ملاحظاتك القديمة فقد تشعر بالارتباك، وإذا تجاهلتها تماماً فقد تنسى كل شيء. يوضح هذا البحث أن أداة التحسين تقوم بهذين الأمرين معاً.
اكتشف الباحثون أن الضرر غالباً ما يأتي من التدرجات القديمة المخزنة في ذاكرة الزخم. تحاول التحديثات الأخيرة حماية المعلومات القديمة، لكن التاريخ المتراكم من بداية المهمة الجديدة يدفع النموذج في الاتجاه الخاطئ.
تشير الدراسة إلى أن مسح ذاكرة الزخم أو تعديلها يمكن أن يساعد النماذج في الاحتفاظ بقدراتها السابقة بشكل أفضل. هل يعني هذا أن نماذج الذكاء الاصطناعي الحالية تتعثر في ذكرياتها الخاصة أثناء تعلم مهارات جديدة؟
ركز هذا البحث تحديداً على كيفية تفاعل أدوات التحسين مع ذاكرة النموذج أثناء التدريب. لا تغطي هذه النتائج جميع الأسباب المحتملة للنسيان في النماذج الضخمة، كما حللت الدراسة بشكل خاص كيفية مساهمة الزخم في تراجع دقة الإجابات.
المصدر: arXiv cs.CL