باحثون يكتشفون ثغرات أمنية في تقنيات ترجمة لغة الإشارة المخصصة للأطفال

سلطت ورقة بحثية جديدة الضوء على فجوة أمنية كبيرة في كيفية تعامل الذكاء الاصطناعي مع تواصل الأطفال الصم. تقوم أدوات الترجمة الآلية للغة الإشارة (SLT) حالياً بتحويل إيماءات اليد إلى نصوص للمساعدات الرقمية وتطبيقات المراسلة. ومع ذلك، غالباً ما تتجاوز هذه الترجمات مرشحات الأمان المصممة لحماية القاصرين.

تستخدم منصات الذكاء الاصطناعي عادةً أنظمة فحص تعتمد على النصوص لمراقبة الرسائل بحثاً عن المخاطر. ونظراً لأن النظام يحول الإشارات إلى نصوص، يجب أن تمر رسالة الطفل عبر طبقة الترجمة أولاً. وجد الباحثون أن نماذج تحويل لغة الإشارة إلى نص الرائدة لم يتم تدريبها أو تقييمها رسمياً بناءً على الاحتياجات المحددة للمستخدمين دون سن 18 عاماً.

يمكن لأخطاء الترجمة أن تغير معنى الرسالة بشكل كبير. قد تؤدي أخطاء بسيطة في فهم قصد المستخدم إلى تغيير كيفية معالجة النظام للطلبات المتعلقة بالسرية، أو طلب المساعدة، أو مخاوف السلامة العاجلة. قد يتسبب خلل في الترجمة في تجاهل الذكاء الاصطناعي لطلب جدي بينما يبدو أنه يحافظ على طلاقة لغوية كاملة.

تقترح الدراسة إطاراً تدقيقياً جديداً لاختبار هذه الحدود قبل طرح الأنظمة للاستخدام العام. يتضمن ذلك تصنيفاً للفشل المحتمل ونهجاً منظماً لقياس مدى تعامل النماذج مع السيناريوهات الحساسة. يخطط الفريق للبدء في عملية الاختبار الخاصة بهم باستخدام لغة الإشارة الأسترالية (Auslan).

لا تزال هذه الأبحاث في مرحلة التخطيط واقتراح التدقيق. لا تشير النتائج إلى أن الأنظمة الحالية تفشل بالفعل، حيث تظهر الدراسة أن هذه الأدوات لم يتم تقييمها بعد للأطفال بطريقة مشتركة ومنهجية.