شهدت منصة «إكس» (تويتر سابقًا) جدلاً واسعًا بعد أن أخطأ روبوت الدردشة «غروك» في تحديد مصدر صورة لفتاة تعاني سوء التغذية في غزة، زاعمًا أنها من اليمن، قبل أن يتبين لاحقًا أن الصورة التقطت في 2 آب/أغسطس الجاري في مدينة غزة بعدسة مصوّر وكالة فرانس برس عمر القطاع.
الحادثة بدأت عندما نشر النائب الفرنسي إيمريك كارون، المؤيد للقضية الفلسطينية، الصورة دون تعليق، وسط تحذيرات الأمم المتحدة من «مجاعة معمّمة» في القطاع. ردّ «غروك» بشكل قاطع بأنها تعود لعام 2018 في اليمن وتُظهر الطفلة أمل حسين، ما أدى إلى اتهام كارون بنشر معلومات مضللة. لاحقًا، تبيّن أن الفتاة هي مريم دواّس (9 سنوات)، التي فقدت 16 كيلوغرامًا من وزنها منذ بدء الحرب، وفق ما أكدت والدتها.
وعندما وُجّهت إليه أسئلة عن الخطأ، أصر «غروك» على اعتماده على «مصادر موثوقة» قبل أن يعترف بخطئه، ليكرر الإجابة نفسها في اليوم التالي.
تحيزات وأخطاء متكررة
الباحث في أخلاقيات التكنولوجيا لوي دو دييزباك أوضح أن هذه الأخطاء تكشف «حدود» الذكاء الاصطناعي التوليدي، الذي يعمل مثل «صندوق أسود» يصعب معرفة آلية إجاباته أو ترتيب مصادره، مشيرًا إلى تحيزات مرتبطة ببيانات التدريب وتعليمات المطورين، خاصة في نموذج «إكس إيه آي» المملوك لإيلون ماسك، والذي يتوافق في بعض توجهاته مع أيديولوجية اليمين المتطرف الأميركي.
دييزباك أشار إلى أن طلب تحديد مصدر صورة يخرج عن المهمة الأساسية لهذه النماذج، مؤكدًا أن النماذج اللغوية «لا تسعى إلى إنتاج دقة مطلقة».
صحيفة «ليبراسيون» الفرنسية نشرت مؤخرًا صورة أخرى لطفل يعاني سوء التغذية في غزة التقطها عمر القطاع، لكن «غروك» نسبها خطأً إلى اليمن عام 2016، ما أثار اتهامات زائفة للصحيفة بالتلاعب. كما ارتكب روبوت «ميسترال إيه آي» خطأ مشابهًا رغم إمكانية إدراج أخبار وكالة فرانس برس في إجاباته.
دعوات لعدم الاعتماد على الذكاء الاصطناعي في التحقق
دو دييزباك حذر من الاعتماد على روبوتات الدردشة للتحقق من الأخبار والصور، مؤكدًا أنها ليست مصممة لـ«قول الحقيقة» بل «لإنتاج المحتوى، سواء أكان صحيحًا أم خاطئًا»، مشبهًا إياها بـ«صديق مهووس بالأساطير» قد يروي الحقيقة أحيانًا، لكنه قادر دائمًا على الكذب.
