Liquid AI تطلق LFM2.5-VL-DSpark لتسريع نماذج الرؤية بنسبة 3 أضعاف

أطلقت شركة Liquid AI نموذجاً تجريبياً جديداً يسمى LFM2.5-VL-DSpark. صُمم هذا الأداة لتسريع عمل نموذج الرؤية واللغة الخاص بهم، LFM2.5-VL-3B، بشكل ملحوظ. توضح ملاحظات الإصدار كيفية دمج هذا المكون الجديد مع الأجهزة الحالية لتحسين الأداء.

الفكرة الأساسية هي ما يُعرف بـ "الترميز التخميني". بدلاً من توليد كلمة واحدة في كل مرة، يتوقع النموذج كتلة كاملة من الكلمات مسبقاً. يقوم نموذج أصغر "مُخمن" بتخمين هذه الكلمات، ثم يفحصها النموذج الرئيسي. إذا كانت التخمينات صحيحة، يتخطى العملية عدة خطوات، مما يوفر الوقت.

يتطلب هذا النهج زيادة صغيرة في الذاكرة. يضيف المُخمن 280 مليون معامل إلى النظام. هذا يمثل زيادة بنسبة 8.9% فوق النموذج الأصلي الذي يحتوي على 3 مليارات معامل. مقابل ذلك، يحصل المستخدمون على زيادة كبيرة في السرعة.

على شرائح Apple M5 Max، يعمل فك الترميز أسرع بنسبة تصل إلى 3.13 مرات. على وحدات معالجة الرسوميات H100 عالية الأداء، تصل زيادة السرعة إلى 2.66 مرة. كما تتحسن زمن الاستجابة الكلي، الذي يشمل وقت معالجة الصورة، بنسبة تصل إلى 2.62 مرة على الأجهزة المحلية.

الحيلة التقنية تعتمد على تمثيلات مشتركة. تُسقط بقع الصورة ورموز النص في نفس التنسيق قبل وصولها إلى المُخمن. هذا يسمح بخوارزمية الاستدلال نفسها المستخدمة للنصوص بالعمل بسلاسة مع الصور أيضاً.

يمكن للمطورين استخدام هذا النموذج فوراً. قدمت Liquid AI دعماً فورياً لثلاثة أطر عمل شائعة: llama.cpp و MLX-VLM و SGLang. تتيح هذه الأدوات تشغيل النموذج على الحواسيب المحلية والخوادم السحابية على حد سواء.

ومع ذلك، هناك حدود لزيادة السرعة. الترميز التخميني يسرّع فقط جزء توليد النص. فهو لا يسرّع التحليل الأولي للصورة. على الأجهزة ذات القدرة الأقل، يستهلك هذا الجزء من معالجة الصورة حصة أكبر من الوقت الإجمالي.

بسبب ذلك، تكون زيادة السرعة الإجمالية أصغر من سرعة فك الترميز الخام. يلاحظ المصدر أن هذه مشكلة قياسية معروفة بقانون أمدال. الجزء غير المعزز من المهمة يحدد سقف التحسين الكلي.

النموذج متاح بصيغتي Safetensors و GGUF على Hugging Face. وهو مفتوح الأوزان، مما يعني أن المستخدمين يمكنهم تنزيله وضبطه ونشره دون قيود. يتوافق هذا مع هدف Liquid AI في تقديم ذكاء اصطناعي يعمل في أي مكان.

الإصدار جزء من جهد أوسع لجعل نماذج الرؤية عملية للاستخدام اليومي. من خلال تقليل زمن الاستجابة، تصبح هذه النماذج أكثر استجابة في التطبيقات الفورية. هذا أمر حاسم للأدوات التفاعلية التي تحتاج إلى إجابات سريعة.

لا يوفر المصدر تفاصيل حول أداء هذا النموذج على الأجهزة القديمة. كما لا يحدد المقاييس الدقيقة لدقة نموذج المسودة نفسه. يركز النص على السرعة والتكامل بدلاً من القدرات الجديدة.

هل تغيّر زيادة السرعة بثلاثة أضعاف طريقة تخطيطك لاستخدام نماذج الرؤية على أجهزتك الخاصة؟