دراسة صادمة: 50% من نصائح الذكاء الاصطناعي الطبية “مضللة”.. والنتائج تبدو مقنعة ولكن!
في الوقت الذي يهرع فيه الملايين لاستشارة “الطبيب الرقمي”، أطلقت دراسة حديثة نشرها موقع “ScienceAlert” صافرة إنذار، مؤكدة أن الاعتماد الكلي على روبوتات الدردشة في القضايا الصحية قد يكون مغامرة غير مأمونة العواقب.
أرقام مقلقة: أين تكمن الخطورة؟
أخضع الباحثون 5 نماذج رائدة من الذكاء الاصطناعي لاختبار شمل 50 سؤالاً طبياً معقداً (حول السرطان، التغذية، واللقاحات)، وجاءت النتائج كالتالي:
-
20% إجابات “شديدة الإشكال”: تحتوي على أخطاء جسيمة قد تضر بالمستخدم.
-
50% إجابات “مضللة”: تفتقر للدقة أو تعطي سياقاً غير مكتمل.
-
30% فقط: هي النسبة الضئيلة للإجابات التي اعتُبرت “مقبولة” طبياً.
وهم المعرفة.. كيف يخدعنا الذكاء الاصطناعي؟
كشفت الدراسة عن ثغرات تقنية وفنية تجعل هذه الأدوات غير موثوقة كمصدر طبي مستقل:
-
المراجع “الوهمية”: تعاني النماذج من ظاهرة “الهلوسة”، حيث تقدم روابط غير صحيحة أو تخترع أسماء أبحاث لا وجود لها أساساً في الواقع.
-
التوقع لا الفهم: هذه النماذج لا “تفهم” الطب، بل تتوقع الكلمة التالية بناءً على بيانات قد تكون استقتها من منتديات عامة أو مصادر غير علمية.
-
الثقة المفرطة: يقدم الذكاء الاصطناعي المعلومة بلهجة واثقة جداً تخلو من التحذيرات الطبية الضرورية، مما يخدع المستخدم غير المتخصص.
سوء الاستخدام.. فجوة بين الإجابة والتطبيق
لم تتوقف المشكلة عند دقة الآلة فحسب، بل امتدت لسلوك المستخدم؛ حيث أظهرت الأبحاث أن دقة استفادة البشر من الإجابات الصحيحة للذكاء الاصطناعي لم تتجاوز 35%، نظراً لصعوبة تشخيص الحالات عند نقص البيانات الطبية التفصيلية.
روشتة التعامل مع “الذكاء الاصطناعي الطبي”
يرى الخبراء أن هذه الأدوات تظل مفيدة فقط في سياق محدود، وفق النصائح التالية:
-
أداة مساعدة لا بديلة: استخدمها لتبسيط المصطلحات أو التحضير لأسئلة تطرحها على طبيبك، وليس للتشخيص.
-
تحقق من المصادر: لا تثق في المراجع المرفقة؛ قم بالبحث عنها يدوياً للتأكد من وجودها.
-
تجنب الأسئلة المفتوحة: الإجابات على الأسئلة العامة هي الأكثر عرضة للتضليل مقارنة بالأسئلة المحددة.