الانتقال إلى المحتوى
سايبرتاك.
التعلّم واللغة· ٢ دقائق قراءة

باحثون يطلقون طريقة جديدة لتدريب نماذج ذكاء اصطناعي أصغر لمهام متعددة

تقنية JIVEAdapter تفصل المعلومات المشتركة عن البيانات الخاصة بكل مهمة لتحسين كفاءة تدريب نماذج الذكاء الاصطناعي.

بقلم Cyberttakنُشر · 01:02
لقطة مقربة لمعالج كمبيوتر، تمثل الأجهزة المستخدمة لتدريب نماذج الذكاء الاصطناعي
لقطة مقربة لمعالج كمبيوتر، تمثل الأجهزة المستخدمة لتدريب نماذج الذكاء الاصطناعيالمصدر: Photo: Unknown / Rawpixel · CC0

قدم باحثون مؤخراً تقنية JIVEAdapter، وهي وسيلة لجعل تدريب الذكاء الاصطناعي أكثر كفاءة. تسمح هذه الطريقة لنموذج أساسي واحد بالتعامل مع مهام متعددة دون الحاجة إلى إعادة تدريبه بالكامل في كل مرة.

تتطلب معظم عمليات تدريب الذكاء الاصطناعي الحالية قوة حوسبة كبيرة. تعالج JIVEAdapter هذه المشكلة عن طريق تقسيم تحديثات الوزن إلى جزئين: هيكل مشترك يستخدم لجميع المهام، وهيكل خاص لكل مهمة على حدة.

تقوم JIVEAdapter بتحليل كل تحديث للوزن إلى هيكل مشترك عبر جميع المهام بالإضافة إلى هيكل فردي لكل مهمة.

تخيل أنك تتعلم العزف على آلات موسيقية. أنت تتعلم النظرية الموسيقية الأساسية مرة واحدة، والتي تعمل كمعرفتك المشتركة. بعد ذلك، تتدرب على تقنيات محددة للقيام بالعزف على الجيتار أو البيانو بشكل منفصل. بهذه الطريقة، لا تضطر لإعادة تعلم أساسيات الموسيقى في كل مرة تبدأ فيها بآلة جديدة.

يعمل هذا النظام على تجميد الجزء المشترك بمجرد تعلمه. عندما تظهر مهمة جديدة، يحتاج الذكاء الاصطناعي فقط إلى تدريب الجزء الصغير المخصص لها. وهذا يوفر الكثير من الوقت والموارد مقارنة بتدريب النموذج بالكامل من الصفر.

أظهرت الاختبارات على نموذج DeBERTaV3-base أن هذا النهج يحافظ على أداء عالٍ حتى مع بيانات أقل. كما يساعد النموذج في الحفاظ على فصل الإشارات المشتركة عن الإشارات الخاصة بالمهام، مما يجعل النتائج أكثر وضوحاً.

هل يعني هذا النهج أننا قد نشهد قريباً ذكاءً اصطناعياً متخصصاً وأكثر كفاءة يعمل على أجهزة أصغر؟

مع ذلك، يركز هذا البحث على معايير لغوية محددة مثل GLUE وSuperGLUE. لم توضح الورقة البحثية كيفية توسيع نطاق هذه الطريقة لتشمل نماذج أكبر، مثل تلك المستخدمة في توليد الصور أو المهام التي تتطلب استنتاجاً معقداً يتجاوز النصوص.

المصدر: arXiv cs.AI