كشف تحقيق لصحيفة الغارديان أن ملخصات الذكاء الاصطناعي التي تعرضها غوغل أعلى نتائج البحث قد تضع المستخدمين أمام مخاطر صحية حقيقية، بسبب احتوائها على معلومات طبية خاطئة أو مضللة.
وتعتمد خدمة "AI Overviews" على تقنيات الذكاء الاصطناعي التوليدي لتقديم إجابات مختصرة وسريعة على أسئلة المستخدمين، وتؤكد غوغل أنها مفيدة وموثوقة. غير أن التحقيق الصحفي أظهر حالات متعددة قُدّمت فيها نصائح صحية وُصفت من خبراء بأنها خطيرة للغاية.
نصائح الذكاء الاصطناعي
ففي إحدى الحالات، نصحت غوغل مرضى سرطان البنكرياس بتجنب الأطعمة الغنية بالدهون، وهو ما اعتبره مختصون عكس التوصيات الطبية تماما، وقد يؤدي إلى فقدان الوزن وعدم تحمل العلاج الكيميائي أو الجراحي، ما يهدد حياة المرضى.
وفي مثال آخر، قدّمت المنصة معلومات مغلوطة حول تحاليل وظائف الكبد، ما قد يدفع مرضى يعانون أمراضا خطيرة إلى الاعتقاد بأن نتائجهم طبيعية وعدم متابعة العلاج.
كما رصد التحقيق معلومات خاطئة كليا حول فحوصات سرطانات النساء، قد تؤدي إلى تجاهل أعراض حقيقية، إضافة إلى نتائج مضللة بشأن اضطرابات نفسية مثل الذهان واضطرابات الأكل، وصفت بأنها قد تمنع المرضى من طلب المساعدة.
وقالت صوفي راندال، مديرة منتدى معلومات المرضى، إن وضع معلومات غير دقيقة في أعلى نتائج البحث يشكل خطرا مباشرا على صحة الناس. فيما حذرت منظمات صحية وخيرية من أن تغيّر الإجابات من بحث لآخر يقوض الثقة ويزيد الالتباس.
من جهتها، ردّت غوغل بأن الغالبية العظمى من ملخصاتها دقيقة، وأنها تعمل باستمرار على تحسين الجودة، مؤكدة أنها تتخذ إجراءات عند رصد أخطاء أو إخراج للمحتوى عن سياقه.
