باحثون يطورون طريقة جديدة لإدارة الذاكرة في نماذج الذكاء الاصطناعي

قدمت ورقة بحثية جديدة تقنية تسمى WakeKV، وهي مصممة لمساعدة نماذج الذكاء الاصطناعي على إدارة ذاكرتها الداخلية بشكل أكثر فعالية أثناء المهام المعقدة. تستخدم النماذج ما يسمى بـ KV-cache، أو ذاكرة المفاتيح والقيم، لتتبع المعلومات السابقة.

عادةً، تقوم النماذج بتصنيف أجزاء الذاكرة المهمة في البداية. ومع ذلك، وجد الباحثون أن أهمية هذه البيانات تتغير غالبًا أثناء عمل النموذج فعليًا. التعامل مع هذه الذاكرة كشيء ثابت يؤدي إلى عدم الكفاءة.

تعمل WakeKV كمدير استجابة سريع. بدلاً من حذف أو تجميد حالات الذاكرة التي تبدو أقل أهمية بشكل دائم، تقوم بنقل هذه العناصر إلى مستودع مؤقت في المعالج المركزي (CPU). إذا احتاج النموذج فجأة إلى تلك المعلومات، يمكنه استعادتها بسرعة.

اختبر الباحثون هذه الطريقة على نماذج تتراوح أحجامها بين 1.5B و 8B من المعلمات. لاحظوا تحسنًا في الأداء في المهام التي تتضمن سلاسل تفكير طويلة واسترجاع المعلومات عبر جولات متعددة من المحادثة.

أظهر تنفيذ ذلك على أجهزة تستخدم نموذج Mistral-7B أن النظام يمكنه الحفاظ على جودة المخرجات مع زيادة سرعة المعالجة الإجمالية.

تخيل أنك تقرأ كتابًا طويلًا وقررت فجأة أنك بحاجة إلى مراجعة تفصيل من الفصل الأول كنت تظن أنه غير مهم. بدلًا من العودة للبحث عن الصفحة، تحتفظ التقنية بالتفاصيل غير المهمة في درج المكتب بدلًا من رميها في القمامة.

هل تعتقد أن تحسين قدرة نماذج الذكاء الاصطناعي على إدارة ذاكرتها قصيرة المدى هو المفتاح للحصول على مساعدين أسرع وأذكى؟

تم اختبار هذه الطريقة تحديدًا على ثلاثة نماذج وأربعة أنظمة تشغيل محددة. لا تتناول الدراسة كيفية توسيع نطاق هذا الأسلوب ليشمل النماذج العملاقة التي تحتوي على مئات المليارات من المعلمات والتي تشغل حاليًا المنصات الرائدة في الصناعة.