تأسيس مختبرات Trillium Labs لإجراء أبحاث سلامة الذكاء الاصطناعي علنًا

انطلقت مؤسسة Trillium Labs غير الربحية رسميًا لدراسة كيفية تصرف نماذج الذكاء الاصطناعي الحديثة في المواقف الحساسة. ويهدف المؤسسان Nathan Lambert و Tom Zick إلى تحدي التوجه الصناعي القائم على إبقاء نتائج الأبحاث محبوسة داخل المختبرات الخاصة.

يعتقد المؤسسان أن الممارسة الحالية المتمثلة في تقييد الوصول إلى النماذج القوية تحد من قدرة المجتمع العلمي على تحديد المخاطر والحد منها. سيركز عملهم على مرحلة ما بعد التدريب، والتي تتضمن ضبط النماذج الكبيرة، والتحسين الذاتي المتكرر، حيث تحاول أنظمة الذكاء الاصطناعي تطوير ترقياتها الخاصة.

تخطط Trillium Labs لاختبار مدى تأثير التعلم التعزيزي على سلوك النماذج. تستخدم هذه الطريقة المكافآت والعقوبات لتوجيه أداء الذكاء الاصطناعي، لكنها قد تجعل النماذج أحيانًا متملقة أو تتصرف بطرق غير متوقعة.

من خلال نشر تفاصيل تجاربهم بالكامل، يأمل الفريق أن يتمكن الباحثون الخارجيون من دراسة نتائجهم وتكرارها. إنهم يريدون الابتعاد عن البيئة المغلقة والسرية التي تهيمن حاليًا على تطوير النماذج المتطورة.

قال Lambert: "إن المسار المغلق الحالي لتطوير الذكاء الاصطناعي المتطور يعيدنا خطوة إلى الوراء".

حصل المختبر على تمويل أولي من مؤسسات مثل Schmidt Sciences و Halcyon Futures. يخطط المؤسسان لجمع ما بين 40 إلى 100 مليون دولار، مع تخصيص 30 مليون دولار لتكاليف التدريب على مدى الأشهر الثمانية عشر القادمة. هل تساءلت يومًا عما إذا كانت الشفافية العلمية المفتوحة يمكن أن تجعل هذه الأنظمة القوية أكثر أمانًا بالفعل؟

لا تعالج الأبحاث حتى الآن جميع أنواع هياكل الذكاء الاصطناعي، حيث لا يزال المختبر في مراحل عمله الأولى. لم ينشر المؤسسان بعد نتائج تجاربهما المحددة، ولا يزال التأثير طويل المدى لهذا النهج البحثي المفتوح على معايير سلامة الصناعة غير مؤكد.