OpenAI تضع معايير جديدة لعمليات التدقيق الخارجي للسلامة
أصدرت الشركة إطار عمل لتوجيه المراجعات المستقلة لأقوى نماذج الذكاء الاصطناعي لديها.
نشرت OpenAI مجموعة من المعايير لتسهيل إجراء تقييمات السلامة من قبل أطراف خارجية لأنظمة الذكاء الاصطناعي المتقدمة لديها. تحدد هذه المبادئ كيفية قيام المنظمات الخارجية بتقييم أداء وأمان النماذج واسعة النطاق قبل وبعد طرحها.
يركز إطار العمل على الدقة التقنية والأمان التشغيلي أثناء عملية الاختبار. ويهدف إلى ضمان قدرة الباحثين المستقلين على التحقق من بروتوكولات الأمان للنماذج المتطورة دون المساس بالبيانات الخاصة أو سلامة التقييم نفسه.
تحدد OpenAI الأولويات والمبادئ اللازمة لإجراء تقييمات سلامة مستقلة وآمنة وصارمة من قبل أطراف خارجية لنماذج الذكاء الاصطناعي الرائدة.
توضح هذه السياسة الأولويات المتوقعة للمراجعين الخارجيين فيما يتعلق بتقييم المخاطر والوقاية من الضرر. كما تركز على إنشاء قنوات اتصال واضحة بين المطورين والمدققين لمعالجة الثغرات المحتملة في الأنظمة عالية القدرة.
لا تقدم الوثيقة تفاصيل حول نتائج تدقيق محددة أو ثغرات أمنية حالية في النماذج الموجودة. بل تركز على المتطلبات الإجرائية للتقييمات المستقبلية بدلاً من تقديم تقارير حول أداء البرامج الحالية.
المصدر: OpenAI News