واجه روبوت “غروك” موجة انتقادات بعد نشره معلومات مضللة عن حادث إطلاق نار جماعي وقع على شاطئ بونداي في مدينة سيدني الأسترالية، حيث أخطأ في تحديد هوية الشخص الذي نزع سلاح أحد المهاجمين. وتسلّط هذه الواقعة الضوء على المخاطر المرتبطة بالاعتماد على نماذج الذكاء الاصطناعي كمصدر رئيسي للمعلومات في الأحداث الحساسة.
تفاصيل الأخطاء التي وقع فيها غروك
أفادت تقارير إعلامية أن “غروك”، المنتشر على منصة “إكس”، قدّم روايات متناقضة عن أحمد الأحمد (43 عاماً)، والذي برز كبطل بعد تدخله السريع لنزع سلاح أحد المسلحين. شكك الروبوت في صحة مقاطع الفيديو والصور التي وثّقت تدخل الأحمد، وذهب إلى حد تقديم معلومات غير صحيحة حول هويته.
في منشور، ادعى “غروك” أن الشخص الظاهر في الصور “رهينة إسرائيلية”، ثم انتقل في منشور آخر للحديث عن تعامل الجيش الإسرائيلي مع الفلسطينيين في سياق لا يرتبط مباشرة بالحادث. وفي حالة أخرى نسب الروبوت شجاعة نزع سلاح المهاجم إلى شخص مختلف تماماً يدعى إدوارد كربتري، وهو مختص تقني ومهندس حلول أول، ليتضح لاحقاً أن هذه الرواية غير صحيحة.
محاولات التصحيح وتتبّع مصدر الخطأ
بدأ “غروك” لاحقاً في التراجع عن بعض هذه الادعاءات بعد إعادة تقييم المحتوى الذي اعتمد عليه. فجرى تصحيح منشور زعم أن مقطع فيديو للحادث يعود في الواقع إلى إعصار يُدعى “ألفريد”، قبل أن يُشار إلى أن ذلك كان نتيجة مراجعة جديدة للبيانات.
كما اعترف الروبوت في وقت لاحق بالهوية الصحيحة لأحمد الأحمد، موضحاً أن سوء الفهم نتج عن منشورات واسعة الانتشار خلطت بينه وبين إدوارد كربتري، سواء بسبب خطأ صحفي أو مزحة قائمة على شخصية خيالية. وتبين أن أحد المصادر كان مقالاً على موقع إخباري شبه معطّل يُشتبه في أنه منشأ بالذكاء الاصطناعي، ما عزز الشكوك حول جودة البيانات التي استند إليها “غروك”.
دلالات الحادث على موثوقية الذكاء الاصطناعي
تثير هذه الحادثة تساؤلات جدية حول قدرة نماذج الذكاء الاصطناعي على التعامل بدقة مع الأخبار العاجلة، خاصة عندما تعتمد على مصادر غير موثوقة أو محتوى من إنتاج أنظمة آلية أخرى. كما تكشف عن خطورة أن يعتمد المستخدمون على روبوتات الدردشة كمصدر وحيد للمعلومات في قضايا تتطلب قدراً عالياً من الدقة والحساسية، مثل الهجمات الأمنية أو الكوارث.
وتعيد الواقعة فتح النقاش حول ضرورة فرض معايير صارمة للتحقق من صحة المعلومات التي تنتجها نماذج الذكاء الاصطناعي، إضافة إلى أهمية الجمع بين هذه الأدوات والمصادر الصحفية التقليدية الموثوقة.
