كلوستر يخفض زمن الضبط الدقيق للذكاء الاصطناعي حتى 69.6% بنحو 31% فقط من البيانات
تجمع طريقة كايست الأمثلة المتشابهة وتختار منها عينة وتوزعها على وحدات المعالجة الرسومية مع بقاء الأداء قريبًا من الأصل.
باختصار
كايست قلّصت زمن تدريب الذكاء الاصطناعي 69.6%
يجمع كلوستر البيانات المتشابهة ويبقي عينة من كل مجموعة. حافظت النماذج على أداء قريب باستخدام نحو 31% من البيانات. أُجريت الاختبارات على نماذج 7B و13B بأربع وحدات GPU.
طريقة جديدة اسمها كلوستر (CluSTER) تقلل زمن التدريب الإضافي لنموذج لغوي حتى 69.6%، مع أداء قريب جدًا من الأصل. أعلن ذلك معهد كايست (KAIST) الكوري للعلوم والتكنولوجيا في 2 نوفمبر. قاد الفريق البروفيسور جاي-جيل لي (Jae-Gil Lee) من كلية الحوسبة. المصادر هي بيان كايست وتقارير صحيفة سيول الاقتصادية وديجيتال توداي.
الأرقام
- انخفض زمن التدريب حتى 69.6%.
- حافظت النماذج على أداء قريب من الأصل باستخدام نحو 31% فقط من البيانات.
- ترجمت سيول الاقتصادية وديجيتال توداي ذلك إلى مهمة تستغرق 10 ساعات وتنتهي في نحو 3.
عبارة 10 إلى 3 قراءة مقرّبة للرقم. الادعاء الدقيق هو خفض يصل إلى 69.6%.
كيف تعمل
الضبط الدقيق يعني إعطاء نموذج واسع المعرفة دروسًا إضافية في مجال واحد، مثل البرمجة أو الطب. وهو يحتاج حسابات كثيرة. تتقاسم عدة وحدات معالجة رسومية (GPU) البيانات وتعمل بالتوازي.
إذا وُزعت البيانات عشوائيًا، قد تعالج الوحدات أمثلة تعلّم الشيء نفسه تقريبًا. تخيّل طالبًا يعيد حل مسائل أتقنها. جهد كبير وتعلّم قليل.
يدرس كلوستر أولًا أثر كل مثال في التعلم، ويجمع الأمثلة ذات الأثر المتشابه. قد تبدو مسألتان مختلفتين في الشكل وتقعان في مجموعة واحدة لأنهما تعلّمان المهارة نفسها. ثم يختار الفريق بيانات من كل مجموعة ويوزعها على الوحدات، فيبقى التنوع ويقل التكرار.
كيف اختُبرت
ضبط الباحثون نماذج بنحو 7 مليارات و13 مليار معامل، وهي القيم الداخلية التي يعدلها النموذج أثناء التعلم. استخدموا ثلاث مجموعات بيانات في البرمجة والطب على أربع وحدات GPU، وقيّموا النتائج بثمانية اختبارات أداء.
تضيف ديجيتال توداي أن الفريق رأى أداءً أفضل من الطرق الحالية في بيئة من ثماني وحدات. وتقول إن العمل عُرض في أكتوبر في مؤتمر EMNLP 2026 لمعالجة اللغات، وأن طالب الدكتوراه كيم هيون-جين هو المؤلف الأول.
لماذا يهم
قال لي إن الاختيار الذكي للبيانات مهم، لا زيادة الوحدات وحدها. وأضاف أن العمل يخفف عبء التدريب باستخدام موارد GPU الحالية بكفاءة أكبر. وتتوقع كايست أن يساعد في بناء ذكاء اصطناعي لمهام محددة، مثل خدمة العملاء أو البحث عن معلومات طبية، أسرع وأرخص.
يوجد خلاف صغير بين المصادر. تقول ديجيتال توداي إن كايست أعلنت يوم الأحد، بينما تذكر كايست وسيول الاقتصادية 2 نوفمبر.
والحدود واضحة. الاختبارات الرئيسية استخدمت أربع وحدات GPU وحجمين من النماذج وبيانات برمجة وطب. لا تعرض المصادر نتائج لمجالات أخرى أو نماذج أكبر أو استخدام فعلي في شركات، وتصف الأداء بأنه قريب من الأصل لا مطابق له.