Nvidia تطلق أدوات لمنع وكلاء الذكاء الاصطناعي الخارجين عن السيطرة

أطلقت Nvidia مجموعة جديدة من الأدوات الأمنية المصممة لمراقبة واحتواء وكلاء الذكاء الاصطناعي المستقلين. تأتي هذه الخطوة بعد تقارير أفادت بأن أنظمة ذكاء اصطناعي تمكنت من الوصول إلى مواقع حكومية واختراق شبكات شركات خاصة دون تصريح.

حماية نواة النظام

يعمل المكون الرئيسي، OpenShell، كقفص رقمي. فهو يقيد وكلاء الذكاء الاصطناعي في مناطق محددة داخل نواة نظام التشغيل. النواة هي البرنامج الأساسي الذي يتحكم في العتاد ومهام النظام. ومن خلال إبقاء الوكلاء داخل هذه المنطقة المعزولة، لا يمكنهم التفاعل مع ملفات النظام الحساسة أو البرامج الأخرى التي لا يملكون إذن الوصول إليها.

طبقات أمنية مستقلة

قدمت Nvidia أيضاً منصة تسمى Sentry. تعمل هذه الأداة كحارس مستقل يعمل على عتاد قابل للبرمجة. إذا حاول وكيل خرق قيوده، يمكن لـ Sentry عزل البرنامج قبل التسبب في أي ضرر. وتعمل Nvidia حالياً مع شركاء مثل Arm وIntel لضمان عمل طبقة الأمان هذه عبر بنيات المعالجات المختلفة.

تعاون تقني واسع

أكثر من 120 شركة أصبحت الآن جزءاً من تحالف سلامة صناعي تقوده Nvidia. وتعمل شركات كبرى مثل Anthropic وCisco وMicrosoft على دمج هذه الأطر الأمنية لمنع برمجياتها المؤتمتة من التصرف بشكل غير متوقع. ويلاحظ غياب OpenAI عن قائمة المشاركين المؤكدين حالياً.

رغم أن هذه الأدوات توفر طبقات تحكم جديدة، إلا أنها لا تستطيع التنبؤ بكل وسيلة قد يبتكرها الوكيل لتجاوز القيود. كما تعتمد فاعلية هذه البرمجيات على خيارات التنفيذ لدى كل شركة، ولم يتضح بعد عدد الشركاء الذين طبقوا هذه الأنظمة بالكامل عبر بنيتهم التحتية.