أطباء مبتدئون أخفقوا في رصد 84 بالمئة من أخطاء GPT-4o الطبية

قام باحثون بتحليل قدرة الأطباء المبتدئين على تحديد الأخطاء عند استخدام GPT-4o في المهام السريرية. اختبرت الدراسة المنشورة في دورية npj Digital Medicine ما إذا كان بإمكان البشر العمل كخط دفاع موثوق ضد أخطاء الآلة.

تحدث الهلوسة الطبية عندما يولد الذكاء الاصطناعي معلومات تبدو مقنعة لكنها غير صحيحة. تتبع الفريق الأداء عبر سيناريوهات ومستويات خطورة مختلفة لمعرفة ما إذا كانت المراجعة البشرية كافية لضمان سلامة المرضى.

لم ينجح الأطباء إلا في رصد 15.8% من أخطاء الذكاء الاصطناعي. والأمر الأكثر إثارة للقلق هو أن 13.1% من المشاركين فشلوا في اكتشاف أي خطأ واحد طوال عملية الاختبار بأكملها.

أظهرت النتائج أن معدلات الكشف ظلت منخفضة حتى عندما كانت المخاطر الطبية عالية. كانت دقة تحديد هذه الأخطاء تعتمد على الطبيب نفسه أكثر من اعتمادها على الحالة السريرية المحددة.

التحقق التقني وحده لا يضمن نتائج آمنة في المستشفيات. نحن بحاجة إلى إعادة التفكير في كيفية دمج هذه الأدوات في سير العمل الطبي.

هل يمكننا تحسين السلامة من خلال إنشاء برامج اعتماد منظمة للمهام التي تعتمد على الذكاء الاصطناعي؟

نظرت هذه الدراسة تحديداً في الأطباء المبتدئين والبيئات المحاكية. لا تثبت النتائج أن الأخصائيين ذوي الخبرة سيؤدون بشكل مختلف أو كيف تعمل هذه الأدوات في حالات الطوارئ الحقيقية عالية الضغط.