الانتقال إلى المحتوى
سايبرتاك.
التعلّم واللغة· ٢ دقائق قراءة

باحثون يقلصون حجم نموذج ترجمة طبية حيوية بنسبة 69 بالمئة

تقنيات جديدة تجمع بين التقطير والكمية حافظت على جودة الترجمة مع تعزيز السرعة بشكل كبير وخفض الانبعاثات.

بقلم Cyberttakنُشر · 20:32
صفوف من خوادم الكمبيوتر في مركز بيانات مع كابلات زرقاء
صفوف من خوادم الكمبيوتر في مركز بيانات مع كابلات زرقاءالمصدر: Photo: motleypixel / Flickr · CC BY 2.0 (cropped)

غالبًا ما تكون نماذج اللغة الكبيرة ضخمة جدًا بحيث يصعب استخدامها في التطبيقات العملية اليومية. بحثت دراسة جديدة في كيفية جعل هذه النماذج أصغر حجمًا لترجمة النصوص من الفرنسية إلى الإنجليزية في المجال الطبي الحيوي.

ركز الباحثون على تقنيتين رئيسيتين: تقطير المعرفة والكمية. تعمل تقنية تقطير المعرفة على تدريب نموذج أصغر ليحاكي نموذجًا أكبر وأكثر خبرة. أما الكمية فتعمل على تقليل الدقة الرقمية لحسابات النموذج، مما يجعل العمليات أسرع ويقلص حجم ملف النموذج بشكل كبير.

حقق نموذج الطالب المقطر والمكمم بشكل تعاوني انخفاضًا في الحجم بنسبة 69%.

أدى الجمع بين هاتين التقنيتين إلى تقليص حجم النموذج الإجمالي بنسبة 69 بالمئة. ويعد هذا تحولًا كبيرًا للمطورين الذين يحتاجون إلى تشغيل عمليات ترجمة معقدة على أجهزة ذات موارد محدودة.

كانت السرعة هدفًا رئيسيًا آخر في هذه التجربة. حيث لاحظ الفريق زيادة في سرعة الاستنتاج بنسبة 98.21 بالمئة، مما يعني أن النموذج أصبح قادرًا على معالجة النصوص بسرعة مضاعفة تقريبًا مقارنة بالنسخة الأصلية.

كما تم قياس الأثر البيئي لهذه العملية. فمن خلال تبسيط الحسابات، حقق الباحثون خفضًا في انبعاثات ثاني أكسيد الكربون بنسبة 98.46 بالمئة.

ولعل الجزء الأكثر إثارة للإعجاب هو تحقيق هذه الكفاءة دون المساس بجودة الترجمة. فقد أدى النموذج الأصغر الجديد بنفس كفاءة سلفه الأكبر حجمًا.

إذا كان بإمكاننا تحقيق هذه النتائج في الطب المتخصص، فلماذا لا تزال نماذجنا ضخمة جدًا للمهام اليومية الأخرى؟

اعتمدت الدراسة على إعداد خاص لنصوص طبية من الفرنسية إلى الإنجليزية. وقد لا تنطبق هذه النتائج على كل أزواج اللغات أو المجالات، لا سيما في الحالات التي تندر فيها بيانات التدريب المتخصصة أو عندما تكون هياكل اللغة مختلفة تمامًا.

المصدر: arXiv cs.CL