مراجعة لـ 100 دراسة تكشف أن 91% تخفي تفاصيل حسابات الذكاء الاصطناعي

نشر فريق من المركز الطبي الجامعي في أوتريخت مراجعة شاملة في مجلة npj Digital Medicine. فحصوا 100 منشور محكّم استخدم تفسيرات قيمة شابلي (Shapley value) لنماذج التنبؤ السريري. تستخدم هذه النماذج بيانات المرضى، مثل العمر وضغط الدم، للتنبؤ بالنتائج الصحية.

تُعد قيم شابلي طريقة لشرح الذكاء الاصطناعي "الصندوق الأسود". تفكك التنبؤ لتوضح أي مداخل ساهمت أكثر في النتيجة. تخيل طبيباً يسأل لماذا صنّف الذكاء الاصطناعي مريضاً كمعرض لخطر مرتفع. تدرج قيم شابلي العوامل المحددة، مثل ارتفاع ضغط الدم، التي أدت إلى هذا القرار.

ركزت المراجعة على الشفافية في الرعاية الصحية. وجد الباحثون فجوة كبيرة في معايير الإبلاغ. في 91% من الأوراق المراجعة، لم يكشف المؤلفون عن الخوارزمية المستخدمة لحساب هذه التفسيرات. هذا يجعل من الصعب على العلماء الآخرين التحقق من النتائج.

كان هناك أيضاً نقص في التفاصيل المتعلقة بالسكان الأساسيين. في 97% من الحالات، لم يُذكر مصدر أو حجم مجموعة المرجع المستخدمة في الحسابات. هذه المجموعة المرجعية ضرورية لفهم ما يعتبره الذكاء الاصطناعي "طبيعياً" أو "متوسطاً".

حدد الباحثون أربعة أسباب رئيسية لاستخدام هذه التفسيرات. وتشمل تحديد الميزات الرئيسية، ودعم القرارات السريرية، وبناء الثقة، والتحليلات الاستكشافية. ومع ذلك، أشار المؤلفون إلى وجود تفسيرات خاطئة شائعة في الأدبيات.

قدم الفريق توصيات عملية للدراسات المستقبلية. شددوا على الحاجة إلى إبلاغ واضح عن الأساليب الحسابية. يساعد هذا في ضمان أن تكون تفسيرات الذكاء الاصطناعي في الطب موثوقة وقابلة للتكرار.

تسلط هذه المراجعة الضوء على الحاجة إلى توثيق أفضل في أبحاث الذكاء الاصطناعي الطبي. بدون معرفة كيفية حساب التفسير بالضبط، قد يضع الأطباء ثقة زائدة في المخرجات. لا تقيّم الدراسة الدقة السريرية للنماذج نفسها، بل الشفافية في تفسيراتها فقط.