كشفت دراسات حديثة ان انظمة الذكاء الاصطناعي الشهيرة مثل شات جي بي تي تعاني من ظاهرة الهلوسة الرقمية التي تؤدي الى تقديم معلومات طبية خاطئة او غير مكتملة تبدو في ظاهرها موثوقة ومقنعة جدا.
واظهرت النتائج بعد اختبار خمسين سؤالا طبيا ان نصف الاجابات التي قدمتها تلك الروبوتات كانت اشكالية حيث تصدر نموذج جروك القائمة بنسبة اخطاء وصلت الى ثمانية وخمسين بالمئة يليه شات جي بي تي ثم ميتا.
وبين الباحثون ان سبب هذه الاخطاء يعود الى اعتماد النماذج على بيانات تدريب منحازة او غير دقيقة اضافة الى ميل الروبوتات لتقديم اجابات تجامل المستخدم بدلا من الالتزام بالحقائق العلمية الموثقة والمعتمدة طبيا.
مخاطر الاعتماد على الروبوتات في التشخيص
واكد الخبراء ان هذه الانظمة غير مرخصة لتقديم المشورة الطبية ولا تملك وصولا دائما الى احدث المعلومات مما يجعل الاعتماد عليها في اتخاذ قرارات صحية امرا محفوفا بالمخاطر دون اشراف طبيب متخصص ومؤهل.
واضافت الدراسة ان اداء الروبوتات تباين بشكل لافت بين الملفات الصحية حيث كانت النتائج افضل نسبيا في موضوعات اللقاحات والسرطان بينما تراجع الاداء بشكل كبير في مجالات التغذية والاداء الرياضي والعلاجات القائمة على الخلايا.
واوضحت التقارير ان روبوتات الدردشة لا تحلل الادلة العلمية بشكل منطقي بل تعتمد على التنبؤ الاحصائي لتوليد النصوص مما يعني انها تقدم اجابات تبدو دقيقة لكنها تفتقر تماما الى المصداقية العلمية المطلوبة.
ضرورة الرقابة والوعي الرقمي
وكشفت ابحاث سابقة ان نسبة كبيرة من المراجع التي تستشهد بها هذه الانظمة هي مراجع مختلقة او غير موجودة فعليا اذ لم تتجاوز نسبة المراجع الصحيحة في احدى الاختبارات حاجز الاثنين وثلاثين بالمئة فقط.
وشدد الباحثون على ضرورة تعزيز الوعي العام وتطوير ضوابط تنظيمية صارمة مع توفير تدريب مهني مناسب لضمان استخدام تقنيات الذكاء الاصطناعي بطريقة تدعم الصحة العامة بدلا من التسبب في اضرار جسيمة للمرضى والمستخدمين.
واكدت دورية بي ام جي اوبن العلمية ان الحاجة ملحة اليوم لوضع اطر قانونية وتقنية تحكم عمل هذه النماذج داخل القطاعات الحساسة لضمان سلامة المعلومات المقدمة للجمهور وحمايتهم من التضليل التقني المستمر.