AutoIndexer سمح لنموذج لغة بتعديل مخرجاته بعد الإنتاج

يمنح AutoIndexer نموذج اللغة الحتميّة حيلة تشبه محرر النصوص: يمكنه الرجوع إلى ما كتبه، تحريك المؤشر، وتعديل المخرجات بعد أن يبدأ التوليد.

العمل منشور في ورقة على arXiv cs.CL بتاريخ 2026-10-12.

الفكرة الأساسية هي Chain of Edits. بدل أن يتنبأ النموذج بالرمز التالي فقط من اليسار إلى اليمين، يتعلم رموزًا خاصة تفتح التعديلات وتغلقها، ثم يحدد مواضع داخل التسلسل الموجود.

بهذا يمكنه الإضافة أو الاستبدال أو الحذف لاحقًا. ببساطة، هو لا يواصل الكتابة فقط، بل يستطيع أيضًا إصلاح ما كتبه من قبل.

التدريب يعتمد على تشويه التسميات الصحيحة أولًا عبر عمليات تعديل عكسية. ثم يتعلم النموذج كيف يعكس هذه العمليات، فيصبح التحرير جزءًا من التعلم نفسه، لا خطوة لاحقة منفصلة.

تقول الورقة إن هذا يفيد البيانات التي لا تسير بترتيب سببي بسيط، مثل الإشارات المرجعية المتقاطعة أو الاعتماد على معلومات تأتي لاحقًا. وهذه نقطة ضعف معروفة في التوليد التلقائي التقليدي، لأنه لا يراجع ما سبق بعد وصول الرموز التالية.

ويصف الباحثون AutoIndexer بأنه أكثر مرونة من نماذج diffusion LLMs في هذا الجانب، لأنه يستطيع إدراج أو حذف عدد غير محدد من الرموز من سياق تم توليده مسبقًا.

كما تقول الورقة إن هذا التدريب يجعل النموذج أكثر صمودًا أمام السياق المليء بالأخطاء، ومفيدًا في مهام مثل تصحيح الكود. وفي الوقت نفسه، يبقي الأداء على اختبارات LLM القياسية كما هو.

الخلاصة بسيطة: حافظ على عقل النموذج اللغوي، وأعطه يدًا تشبه يد المحرر. تخيل أنك تطلب من النموذج فقرة، ثم تعدل جملة في مكانها بدل إعادة كل شيء من الصفر.

الملخص لا يذكر أرقامًا للنتائج، ولا يعرض منتجًا موجّهًا للمستخدمين. كما لا يوضح مقارنة شاملة عبر كل مهام التحرير، بل يكتفي بالقول إن الأداء القياسي بقي محفوظًا مع إضافة قدرة التعديل بعد التوليد.