باحثون يجدون طريقة للتحقق من صدق نماذج الذكاء الاصطناعي في وصف نفسها

تقدم ورقة بحثية جديدة من arXiv cs.CL طريقة لاختبار ما إذا كان نموذج الذكاء الاصطناعي يتأمل في نفسه حقاً أم أنه يخترع المعلومات. ركز الباحثون على مشكلة محددة: غالباً ما تدعي نماذج اللغة الكبيرة أنها تعرف تفضيلاتها، لكن من الصعب التحقق من صحة هذه الادعاءات.

لحل هذه المشكلة، درّب الفريق نماذج لاتخاذ قرارات نيابة عن شخصيات خيالية. استخدموا محولات منخفضة الرتبة لتعليم النماذج اتباع دوال تفضيل خفية. كان الهدف هو معرفة ما إذا كان بإمكان النماذج الإبلاغ بدقة عن تفضيلاتها المتعلمة دون تعليمها ذلك صراحة.

أظهرت النتائج أن التدريب المستمر أدى إلى ظهور قدرة دقيقة على التقرير الذاتي. بدأت النماذج في وصف تفضيلاتها بشكل صحيح، حتى مع عدم وجود إشراف على هذا السلوك المحدد. هذا يشير إلى أن القدرة على الإبلاغ عن الحالة الداخلية يمكن أن تظهر بشكل طبيعي من عملية التدريب.

سأل الباحثون بعد ذلك إذا كان هذا الصدق يغير البنية الداخلية للنموذج. وجدوا أن تمثيلات التفضيلات تنتقل إلى الطبقات الأقدم أثناء التدريب. هذا الانتقال منطقي لأن الطبقات الأقدم هي المكان الذي يمكن لآليات التحويل إلى كلام الوصول إلى المعلومات فيه.

لتمييز النماذج الصادقة عن غير الصادقة، استخدم الفريق تقنية تسمى ترصيص الإسناد. وجدوا أن النماذج الصادقة تظهر تشابهاً أعلى بين عمليات اتخاذ القرار والإبلاغ الذاتي. تعمل هذه الاختلافات الهيكلية كبصمة للصدق.

تخيل أنك تسأل نموذجاً لماذا اختار إجابة محددة. في الماضي، كان عليك الثقة في شرحه. الآن، يمكن للمهندسين النظر في الأسلاك الداخلية للشبكة لمعرفة ما إذا كان الشرح يتطابق مع مسار القرار الفعلي. هذا ينقل عملية التحقق من السلوك إلى البنية.

هذا العمل محدود بإعداد مضبوط وأنواع محددة من التفضيلات. إنه لا يثبت بعد أن جميع نماذج الذكاء الاصطناعي يمكن تدقيقها بهذه الطريقة. تركز الدراسة على بيئة مقيدة حيث تكون الحقيقة المعروفة موجودة.

لا تدعي الورقة أن هذه الطريقة تعمل لكل نوع ممكن من تفكير الذكاء الاصطناعي. كما لا تتناول كيفية تطبيق هذا على المهام المعقدة والمفتوحة. النتائج هي خطوة نحو فهم آليات الوعي الذاتي في الذكاء الاصطناعي.

النقطة الرئيسية هي أن الإبلاغ الذاتي الصادق له أثر قابل للقياس. يوجد هذا الأثر في بنية الشبكة، وليس فقط في الكلمات التي تنتجها. يمنح هذا الباحثين أداة جديدة لتدقيق سلوك الذكاء الاصطناعي.

هل يمكننا الثقة في الذكاء الاصطناعي عندما يقول إنه يعرف ما يفكر فيه؟ تقترح هذه الدراسة أن الإجابة قد تكون مكتوبة في معمارية النموذج، وليس فقط في مخرجاته.