OpenAI تحبط محاولة منسقة لنسخ نماذجها

كشفت OpenAI مؤخراً عن حملة كانت تستهدف سرقة بيانات حصرية من نماذج الذكاء الاصطناعي الخاصة بها. تُعرف هذه التقنية باسم تقطير النماذج (model distillation).

في هذه العملية، يقوم المهاجم بإرسال طلبات متعددة إلى نموذج ذكاء اصطناعي قوي لجمع إجاباته وأنماط تفكيره. بعد ذلك، يستخدم المهاجم هذه المعلومات لتدريب نموذج أصغر وأقل تكلفة يحاكي قدرات النموذج الأصلي دون الحاجة لبنائه من الصفر.

أوضحت OpenAI أن المحاولة تضمنت جهداً منسقاً بدلاً من كونها نشاطاً فردياً من مستخدمين عشوائيين. تمكنت الشركة من تحديد الأنماط التي تقف وراء هذه الطلبات وطبقت تدابير أمنية لمنع استخراج المزيد من أسرار النماذج.

لا تزال الدفاعات ضد هذه الحملات تمثل تحدياً كبيراً لأن المهاجمين يهدفون إلى التقاط "منطق" النموذج بدلاً من مجرد مخرجاته. تستمر OpenAI في تحديث دفاعاتها لضمان حماية ملكيتها الفكرية من النسخ غير المصرح به.

كيف تعتقد أن الشركات يمكنها حماية أعمالها المبتكرة بشكل أفضل عندما يتعلق الأمر ببرمجيات معقدة مصممة للإجابة على الأسئلة؟