باحثون حددوا الدوائر المسؤولة عن رفض نماذج الذكاء الاصطناعي

قام باحثون مؤخراً بفحص كيفية تعامل نماذج اللغة الكبيرة مع الرفض. استكشف الفريق الطريقة التي تمنع بها هذه الأنظمة نفسها من الإجابة على استفسارات معينة. ركزت الدراسة على أربعة نماذج ذات أوزان مفتوحة لرسم خريطة لآليات عملها الداخلية.

اكتشف الباحثون أن سلوك الرفض ليس موزعاً بشكل عشوائي داخل النموذج. بدلاً من ذلك، يعتمد الأمر على آلية محددة ومنظمة. هذا يعني أن النموذج لا يحتاج إلى استهلاك كامل قدراته ليقرر قول لا.

من خلال تعديل ما بين 28% إلى 48% فقط من المكونات الأساسية، تمكن الفريق من تكرار سلوك الرفض بدقة عالية جداً. لقد احتفظوا بنسبة تصل إلى 101% من فعالية التوجيه الأصلية.

داخل هذه المكونات، تتركز الإشارة بشكل أكبر. حوالي 50% من أبعاد تيار المعالجة المتبقي تحمل جوهر إشارة الرفض. يصف الفريق هذا الهيكل بأنه بنية أساسية متميزة.

تخيل الأمر كأنك تبحث عن مفتاح رئيسي في مبنى معقد. بدلاً من فحص كل سلك، تحتاج فقط إلى مراقبة صناديق التوصيل المركزية للتحكم في الإضاءة.

هذا الاكتشاف يجعل سلوك الذكاء الاصطناعي أسهل في الدراسة والتحكم. فهم هذه الأنماط يساعد في توضيح سبب رفض النموذج لطلبات معينة.

هل تساءلت يوماً ما إذا كان الذكاء الاصطناعي يفكر حقاً أم أنه يتبع مساراً داخلياً محدداً مسبقاً؟ يشير هذا البحث إلى أن الأمر غالباً ما يكون الأخير.

تطبق هذه النتائج على أربعة نماذج محددة مفتوحة الأوزان خضعت للاختبار من قبل الباحثين. لم تختبر الدراسة كل المعماريات المتاحة اليوم، كما أنها لم تستكشف كيف قد تتغير آليات الرفض هذه بعد إجراء تدريب إضافي دقيق.