نموذج GPT-6 Astra Ultrafast من OpenAI يعمل أسرع بـ 8 أضعاف على معالجات NVIDIA

أطلقت OpenAI نموذج GPT-6 Astra Ultrafast، وهو إصدار أسرع من نموذجها اللغوي. أصبح النموذج متاحاً الآن عبر واجهة OpenAI API وللمستخدمين المؤهلين في ChatGPT Work و Codex. يعمل النظام على معالجات NVIDIA Blackwell.

التغيير الرئيسي هو السرعة. يولد وضع Ultrafast الرموز (Tokens) أسرع بـ 8 أضعاف مقارنة بالوضع القياسي Astra. هذا الأمر يهم المطورين الذين يستخدمون وكلاء البرمجة. عندما يكتب الذكاء الاصطناعي الكود ويختبره ويصلح الأخطاء، كل ثانية مهمة.

تخيل وكيلاً يفحص عمله ويقرر الخطوة التالية. تجعل الاستجابات الأسرع هذه الدورات تبدو أكثر استجابة. تقلل الوقت الذي تقضيه في الانتظار بين استدعاءات الأدوات. الهدف هو جعل التطبيقات التفاعلية أسرع استجابة.

قال فيليب تيليت، قائد الاستدلال في OpenAI: "استثمار NVIDIA العميق في الأدوات والتوثيق مكننا من جعل نماذجنا جيدة بشكل استثنائي في برمجة معالجات Blackwell و Rubin".

تستخدم OpenAI نماذجها الخاصة لتحسين البرمجيات التي تعمل على هذه الرقائق. يساعد هذا العملية في تحسين طريقة تعامل العتاد مع البيانات. يسمح للفريق بتحسين الأداء مع مرور الوقت دون تغيير المعدات المادية.

منصة NVIDIA قابلة للبرمجة. هذا يعني أن المطورين يمكنهم إعادة استخدام البنية التحتية نفسها للتدريب والاستدلال والتعلم المعزز. يساعد ذلك في تجنب شراء عتاد إضافي لكل مهمة جديدة.

يمكن للمطورين الوصول إلى الوضع الجديد عبر الواجهة البرمجية اليوم. نشرت OpenAI دليلاً يتضمن تفاصيل التسعير والتنفيذ. صُمم تعزيز السرعة لتدفقات العمل الحساسة للوقت.

يركز هذا الإصدار على سرعة الاستدلال للقدرات الموجودة مسبقاً. لا يذكر المصدر أي قدرات استدلال جديدة أو تغييرات في المعرفة الأساسية للنموذج. إنه تحسين في طريقة تشغيل النموذج، وليس دماغاً جديداً.