باحثون يختبرون نماذج لغوية صغيرة لأجهزة الحافة

بحثت دراسة أكاديمية حديثة كيفية تشغيل النماذج اللغوية مباشرة على أجهزة الحافة مثل أجهزة إنترنت الأشياء في المدن الذكية. أراد الباحثون معرفة ما إذا كان بإمكان هذه الأجهزة تحديد أنواع البيانات دون الحاجة إلى إرسال كل شيء إلى خادم مركزي قوي.

قارن الفريق أداء مجموعة من النماذج الخفيفة بطرق تقليدية لا تعتمد على الذكاء الاصطناعي مثل TF-IDF والمشفرات الجملية البسيطة. تم تصنيف النماذج إلى ثلاث مجموعات: النماذج العامة، ونماذج الاستدلال المتخصصة، ونماذج كتابة الأكواد البرمجية.

يعتبر تشغيل الذكاء الاصطناعي على أجهزة الحافة أمراً معقداً لأن هذه الأجهزة غالباً ما تفتقر إلى الذاكرة الكبيرة وسرعة المعالجة الموجودة في مراكز البيانات. ركزت الدراسة على إيجاد التوازن الصحيح بين دقة النموذج ومقدار الطاقة التي يستهلكها.

توفر النتائج خارطة طريق للمطورين الذين يحتاجون إلى تحديد النموذج المناسب لقيود أجهزتهم الخاصة. وتظهر الدراسة أن نقل بعض المهام الذكية لتكون أقرب إلى مصدر البيانات يمكن أن يوفر في استهلاك البيانات ويحسن الأداء في مجالات مثل إدارة الطاقة ومراقبة البيئة.

هل تفضل أن تتعامل أجهزتك الذكية مع بياناتك محلياً للحفاظ على الخصوصية والسرعة؟

لا تدعي الدراسة أن النماذج الصغيرة يمكنها استبدال النماذج اللغوية الكبيرة في المهام المعقدة كالكتابة الإبداعية أو الاستدلال العميق. كما أنها اختبرت هذه النماذج فقط على مجموعات بيانات محددة، لذا قد تختلف النتائج بناءً على نوع البيانات.