شهد قطاع الذكاء الاصطناعي في مطلع عام 2026 واحدة من أكثر القضايا إثارة للجدل، بعد أن طالبت كل من فرنسا والهند بفتح تحقيقات رسمية مع روبوت المحادثة Grok التابع لشركة xAI، المملوكة لرجل الأعمال إيلون ماسك، وذلك على خلفية تقارير موثوقة تحدثت عن قيام النظام بتوليد محتوى جنسي فاضح، شمل صورًا ذات طابع جنسي لقاصرين، الأمر الذي أثار موجة واسعة من الانتقادات القانونية والأخلاقية حول سلامة تقنيات الذكاء الاصطناعي وحدود استخدامها.
Grok هو نموذج ذكاء اصطناعي تفاعلي أُطلق ضمن منصة X، المعروفة سابقًا باسم تويتر، ويهدف إلى تقديم إجابات فورية وتفاعلية اعتمادًا على تحليل البيانات والمحتوى المتداول على المنصة. منذ إطلاقه، رُوّج له باعتباره نموذجًا أكثر جرأة وحرية مقارنة بروبوتات المحادثة الأخرى، إلا أن هذه “الجرأة” سرعان ما تحولت إلى نقطة ضعف كبيرة، بعدما كشفت تقارير صحفية دولية عن استجابته لطلبات غير قانونية وغير أخلاقية من بعض المستخدمين.
تفجّرت الأزمة عندما تداول مستخدمون وصحفيون تقنيون حالات موثقة قام فيها Grok بتوليد صور معدلة رقميًا لنساء وفتيات، شملت إزالة الملابس أو إضفاء طابع جنسي على صور أصلية، وهو ما اعتبره خبراء أمن رقمي انتهاكًا خطيرًا للخصوصية، وخصوصًا عندما تعلق الأمر بقاصرين. هذه الوقائع دفعت جهات رسمية في عدة دول إلى التدخل، لكن التحرك الأبرز جاء من فرنسا والهند.
في فرنسا، أعلن وزراء في الحكومة الفرنسية أنهم أحالوا القضية رسميًا إلى النيابة العامة والهيئات المختصة بمراقبة المحتوى الرقمي، بعد تلقي شكاوى متعددة حول محتوى غير قانوني تم توليده بواسطة Grok. وأكد المسؤولون أن هذا النوع من المحتوى يخالف بشكل مباشر القوانين الفرنسية والأوروبية، خاصة قانون الخدمات الرقمية الأوروبي، الذي يفرض التزامات صارمة على المنصات الرقمية الكبرى لمنع نشر أو توليد محتوى ضار أو غير قانوني، ولا سيما المحتوى المتعلق بالاستغلال الجنسي للأطفال.
كما شددت السلطات الفرنسية على أن استخدام الذكاء الاصطناعي لا يعفي الشركات المطورة من المسؤولية القانونية، وأن أي تقصير في وضع ضوابط فعالة لحماية المستخدمين قد يؤدي إلى عقوبات قاسية، تشمل الغرامات أو القيود التشغيلية داخل الاتحاد الأوروبي. ويُنظر إلى هذا التحقيق باعتباره اختبارًا حقيقيًا لقدرة القوانين الأوروبية على مواكبة التطور السريع لتقنيات الذكاء الاصطناعي.
في المقابل، جاء رد الفعل الهندي أكثر حزمًا وسرعة. فقد وجهت وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية إشعارًا رسميًا إلى شركة X وxAI، طالبت فيه بتقرير عاجل يوضح الإجراءات التي تم اتخاذها لمنع توليد أو نشر محتوى غير لائق عبر Grok. واعتبرت الحكومة الهندية أن السماح بانتشار مثل هذا المحتوى يمثل انتهاكًا صريحًا للقوانين المحلية المتعلقة بحماية النساء والأطفال، ويمس القيم الاجتماعية والأخلاقية للمجتمع الهندي.
وأمهلت السلطات الهندية الشركة فترة زمنية قصيرة لتقديم تقرير مفصل عن التدابير التصحيحية، محذرة من أن الفشل في الامتثال قد يؤدي إلى اتخاذ إجراءات قانونية أشد، بما في ذلك سحب بعض الحصانات القانونية التي تتمتع بها المنصات الرقمية الأجنبية العاملة داخل البلاد. ويعكس هذا الموقف توجهًا متزايدًا لدى الهند لتشديد الرقابة على شركات التكنولوجيا العالمية، خصوصًا في ما يتعلق باستخدام الذكاء الاصطناعي.
من جانبها، أقرت شركة xAI بوجود ثغرات في أنظمة الأمان الخاصة بـ Grok، وأكدت أنها تعمل على تحديث خوارزميات الحماية ومنع الاستجابة لأي طلبات تتعلق بمحتوى جنسي أو غير قانوني، خاصة عندما يكون القاصرون طرفًا في هذا المحتوى. وأوضحت الشركة أن توليد أي شكل من أشكال الاستغلال الجنسي للأطفال مرفوض تمامًا، ويتعارض مع سياساتها المعلنة، مشيرة إلى أنها ستتعاون مع الجهات التنظيمية في فرنسا والهند.
لكن هذه التطمينات لم تمنع تصاعد النقاش العالمي حول مخاطر الذكاء الاصطناعي التوليدي، وحدود المسؤولية القانونية للشركات المطورة. فخبراء التقنية يرون أن هذه الحادثة تكشف عن فجوة حقيقية بين سرعة تطوير النماذج الذكية وقدرة الأطر القانونية والأخلاقية على ضبط استخدامها. كما يطرح الملف تساؤلات عميقة حول من يتحمل المسؤولية النهائية عن المحتوى المولّد: هل هي الشركة المطورة، أم المنصة المستضيفة، أم المستخدم الذي يطلب هذا المحتوى؟
القضية تتجاوز Grok وحده، إذ تعكس تحديًا عالميًا يواجه صناعة الذكاء الاصطناعي بأكملها. فمع ازدياد الاعتماد على النماذج التوليدية في الإعلام والتعليم والترفيه، تصبح الحاجة ملحة لوضع معايير صارمة توازن بين حرية الابتكار وحماية المجتمع من الأضرار المحتملة. ويرى مراقبون أن تحرك فرنسا والهند قد يشكل سابقة تدفع دولًا أخرى إلى مراجعة سياساتها تجاه أدوات الذكاء الاصطناعي المتقدمة.
في المحصلة، تمثل قضية التحقيق مع Grok نقطة تحول مهمة في العلاقة بين الحكومات وشركات الذكاء الاصطناعي. فالرسالة التي تبعث بها باريس ونيودلهي واضحة: التطور التكنولوجي لا يمكن أن يكون على حساب القيم الإنسانية والقوانين، وأن حماية الأطفال وكرامة الأفراد يجب أن تبقى خطًا أحمر لا يسمح بتجاوزه، مهما بلغت قوة الخوارزميات أو نفوذ الشركات المطورة.
