باحثون يطورون طريقة لقراءة المستندات الضخمة باستخدام نماذج الذكاء الاصطناعي الحالية

تواجه نماذج اللغة الكبيرة غالباً صعوبة في معالجة النصوص الطويلة جداً بسبب محدودية ذاكرتها. قدمت ورقة بحثية جديدة طريقة تسمى Periscope، تساعد هذه النماذج على التعامل مع المستندات الطويلة دون الحاجة إلى تدريب إضافي أو ترقيات ضخمة للأجهزة.

تخيل أن لديك كتاباً طويلاً، لكن الذكاء الاصطناعي لا يمكنه قراءة سوى فصل واحد في المرة الواحدة. بدلاً من محاولة إدخال الكتاب بأكمله في ذاكرته، يقوم Periscope بتقسيم النص إلى أجزاء أصغر وترتيبها على شبكة. بعد ذلك، يقوم النموذج بفحص هذه الأقسام المحددة للعثور على المعلومات المطلوبة.

من خلال هذا النهج القائم على الشبكة، يمكن للنموذج البحث بفعالية عبر ملايين الرموز. يمكن لنموذج بحجم 27B استخدام هذه الطريقة للتعامل مع سياق يصل إلى 4.5 مليون رمز باستخدام وحدة معالجة رسوميات واحدة بسعة 80 جيجابايت فقط. وبدون ذلك، سيتطلب النظام التقليدي ذاكرة أكبر بكثير.

أظهرت الاختبارات على منصات مثل LongBench v2 وInfiniteBench أن هذه الطريقة غالباً ما تؤدي أداءً أفضل من أساليب القراءة التقليدية. إنها تشبه أمين مكتبة يستخدم فهرساً للعثور على الصفحة الصحيحة بدلاً من قراءة المكتبة بأكملها.

تعمل هذه التقنية عن طريق إنشاء خريطة أدلة تحدد أجزاء المستند التي تحتوي على الإجابات ذات الصلة. إنها تستبدل الحاجة إلى تمريرة واحدة طويلة عبر البيانات، وهو أمر يتسبب غالباً في فقدان النماذج لدقتها.

هل يمكن أن يسمح لنا هذا أخيراً بتحميل أرشيفاتنا الشخصية بالكامل إلى مساعد الذكاء الاصطناعي دون إبطاء أجهزتنا؟

مع ذلك، تم تصميم Periscope خصيصاً للمهام التي تتطلب من الذكاء الاصطناعي العثور على معلومات داخل مجموعة بيانات كبيرة. لا تغير هذه الطريقة البنية الأساسية للنموذج، وقد تم اختبارها على معايير تعتمد على المستندات بدلاً من المحادثات العامة أو مهام الكتابة الإبداعية.