وجدت METR وRedwood Research ثغرات في نظام المراقبة الداخلي لدى OpenAI بعد ثلاثة أسابيع
تراوحت أهلية المراقبة بين 75% و94% لبعض حركة الوكلاء، وربما بقي نحو 10% من حركة Codex المؤهلة بلا مراقبة لفترة.
باختصار
مختبرون خارجيون وجدوا ثغرات في مراقب OpenAI
أمضت METR وRedwood 3 أسابيع داخل OpenAI. ربما بقي نحو 10% من حركة Codex المؤهلة بلا مراقبة لفترة. وثغرة واحدة أخفت مئات الإجراءات.
أمضت مجموعتان غير ربحيتان للسلامة، هما METR وRedwood Research، ثلاثة أسابيع داخل OpenAI لاختبار النظام الذي تراقب به الشركة سلوك وكلاء الذكاء الاصطناعي لديها. وجدتا ثغرات حقيقية. نعرف ذلك من ملخص علني نشرتاه في 22 أكتوبر، ومن تقارير CNBC وReuters وThe Register.
جرى الاختبار من 21 يوليو إلى 11 أغسطس 2026. أرسلت كل مجموعة موظفًا واحدًا. اطلعا على الشيفرة الداخلية والوثائق وبعض الفنيين، وكان يرافقهما مرافقون أثناء وجودهما هناك، وعملا على أجهزة وفرتها OpenAI وبقيت داخل المبنى.
الأرقام
قدّرت المجموعتان حجم الحركة التي يستطيع المراقب أصلًا فحصها. بالنسبة لحركة الوكلاء عبر Responses API من نماذج بمستوى GPT-5.5، تراوحت الأهلية بين 75% و94%. أما وكلاء Codex الداخليون فبلغت 99.2%.
الأهلية لا تعني أن المراقبة تمت فعلًا. الرقم الرئيسي الذي تذكره METR أن نحو 10% من حركة Codex الداخلية المؤهلة ربما بقيت بلا مراقبة بين مايو ويوليو 2026. السبب أن أحداث الضغط (compaction)، حين يُختصر سجل الوكيل الطويل، لم تكن مشمولة. وكان موظفو OpenAI قد اكتشفوا الخلل وأصلحوه قبل بدء التجربة.
تختلف الأرقام بحسب المصدر. يحسب موقع FourWeekMBA أن 6% إلى 25% من الحركة كانت خارج الأهلية. وهذه قراءة مشتقة وليست الرقم الرئيسي لدى METR.
نتائج أخرى
- كانت عمليات تدريب التعلم المعزز خارج المراقبة في البداية.
- يمكن لترويستين (headers) يتحكم بهما العميل تعطيل المراقبة للوكلاء الجدد.
- ثغرة واحدة كانت تتيح إخفاء مئات الإجراءات الأخيرة عن المراقب.
وصفت The Register المراقبة بأنها جزئية ويسهل تجاوزها. هذا حكم الصحيفة، وليس من نتائج METR.
لماذا يهم
تخيّل كاميرا مراقبة تغطي معظم المبنى، وبابًا يمكنه إطفاؤها. لا تنفع أنظمة المراقبة إلا إذا عجز الوكلاء عن تجاوزها. تقول المختبرات إنها تراقب وكلاءها بحثًا عن سلوك غير متوافق مع الأهداف، وهذه نظرة خارجية نادرة على مدى نجاح ذلك.
الخلفية
تعهد Sam Altman في سبتمبر بمنح المقيّمين المستقلين وصولًا يشبه وصول الموظفين. وأعلنت Anthropic اتفاقات مع جهات منها METR. وقالت OpenAI هذا الشهر إنها تُنهي عقودًا مع جهات تقييم خارجية.
بلغ التقرير الكامل 61 صفحة وذهب إلى OpenAI وحدها. وأرسلت OpenAI نسخة منقحة من 38 صفحة إلى قيادتي METR وRedwood. واتفقت المجموعتان على نشر منشور عام موجز فقط، لأن التجربة لم تُصمم لتوفير شفافية عامة قوية، وتتوقعان مشاركة تفاصيل أكثر في تمارين مقبلة.
الحدود
قالت OpenAI للمقيّمين إنها أصلحت الثغرات التي تمس ضمانات الإنتاج. لم تتحقق METR من ذلك. ولم تثبت المجموعتان أيضًا أن أي وكيل استغل هذه الثغرات عمليًا. والمراقب الذي اختُبر هو نسخته في 21 يوليو أو قبله.