أبدت إدارة الغذاء والدواء الأمريكية (FDA) قلقها المتزايد بشأن الاعتماد المفرط على تقنيات الذكاء الاصطناعي في مراحل تقييم واعتماد الأدوية الجديدة. وأكد المسؤولون أن الذكاء الاصطناعي، رغم إمكانياته الكبيرة في تحليل البيانات وتسريع العمليات، لا يزال يواجه تحديات جوهرية قد تؤثر على دقة وموثوقية النتائج، مما يفرض ضرورة الجمع بين التقنية والخبرة البشرية لضمان سلامة المرضى.

في تقارير حديثة، حددت إدارة الغذاء والدواء عدة مخاطر رئيسية مرتبطة باستخدام الذكاء الاصطناعي، منها:

  • تحيز البيانات: إمكانية انحياز النماذج القائمة على بيانات غير مكتملة أو غير متوازنة.
  • عدم الشفافية: صعوبة تفسير كيفية اتخاذ النظام لقراراته، مما يزيد من مخاطر الإخفاق في التعرف على الأخطاء.
  • الاعتماد المطلق: تقليل دور الخبراء البشر في المراجعة مما قد يؤدي إلى تجاهل عوامل مهمة غير مبرمجة في النماذج.
المخاطر الوصف الحلول المقترحة
تحيز البيانات نماذج غير دقيقة بسبب بيانات غير مكتملة تحسين جودة البيانات وتحديثها بشكل مستمر
عدم الشفافية صعوبة في تفسير عمل الخوارزميات تطوير أنظمة تفسيرية وتوضيحية متقدمة
الاعتماد المطلق تجاهل الخبرة البشرية في التقييم دمج الخبرة البشرية مع الذكاء الاصطناعي في صنع القرار