باحثون يطورون طريقة جديدة لتدقيق نماذج الذكاء الاصطناعي لنتائجها

تتميز نماذج الرؤية واللغة بالذكاء، لكنها تعاني غالباً من الثقة المفرطة. يمكنها أن تبدو مقنعة جداً بينما تقدم إجابات خاطئة تماماً. تقدم ورقة بحثية جديدة إطار عمل يسمى MOTIVE لمساعدة هذه الأنظمة على مراجعة منطقها قبل اعتماد الإجابة النهائية.

بدلاً من الاعتماد على طريقة تدقيق واحدة، يفحص MOTIVE الإجابة المرشحة عبر عدة زوايا مختلفة. يتعلم النظام كيفية تقييم موثوقية مخرجاته الخاصة، حيث يسأل نفسه بشكل أساسي ما إذا كانت الإجابة منطقية من وجهات نظر متعددة.

بمجرد إنشاء الإجابة، يقوم النموذج بحساب درجة الموثوقية. إذا كانت الدرجة منخفضة، يقوم النظام بتشغيل عملية إعادة تفكير لتصحيح الأخطاء المحتملة. وإذا كانت الدرجة عالية، فإنه يقدم الإجابة على الفور.

تخيل أنك طلبت من ذكاء اصطناعي وصف كائن في صورة معقدة. إذا كان الذكاء الاصطناعي غير متأكد من تفصيل معين، فإنه عادة ما يخمن فقط. مع هذا النهج الجديد، يتوقف الذكاء الاصطناعي للتحقق من ذلك التفصيل قبل التحدث. هل تعتقد أن وجود ذكاء اصطناعي يدرك متى يخمن هو أمر مفيد؟

تظهر الأبحاث أن هذا النهج يؤدي إلى نتائج أكثر موثوقية عبر عدة اختبارات قياسية. كما أنه يساعد النماذج على تجنب خطوات الحوسبة غير الضرورية من خلال معرفة متى تكون الإجابة صحيحة على الأرجح في المرة الأولى.

ومع ذلك، يعتمد MOTIVE على حكم النموذج الداخلي الخاص به. هو لا يغني عن الرقابة البشرية، ولم تختبر الدراسة أداءه في كل سيناريو ممكن في العالم الحقيقي خارج معايير البحث المحددة.