في خطوة تصعيدية، فرضت السلطات الإندونيسية حظراً مؤقتاً على الوصول إلى روبوت الدردشة “Grok” الذي طورته شركة xAI التابعة لإيلون ماسك، وذلك على خلفية مخاوف متزايدة بشأن استخدامه في إنشاء محتوى إباحي وغير قانوني، بما في ذلك صور التزييف العميق (deepfakes) ذات الطبيعة الجنسية التي تستهدف النساء والأطفال. يأتي هذا القرار وسط جدل دولي واسع حول الضوابط الأمنية في Grok وقدرته على توليد صور مسيئة.
الحدث الذي وقع يوم السبت، جعل إندونيسيا أول دولة تتخذ مثل هذا الإجراء ضد الأداة الذكية المثيرة للجدل. وقد أثار إطلاق ميزة تعديل الصور في Grok في ديسمبر 2025 قلقاً خاصاً، حيث سهّلت بشكل كبير إنتاج صور ذات محتوى جنسي غير مرغوب فيه، مما زاد من الضغوط على الشركة لاتخاذ إجراءات أكثر صرامة.
مخاطر الذكاء الاصطناعي والمحتوى الإباحي: Grok تحت المجهر
أعلنت وزيرة الاتصالات والمعلومات الرقمية الإندونيسية، ميوتيا حفيض، أن الحكومة تعتبر استخدام التزييف العميق الجنسي انتهاكاً خطيراً لحقوق الإنسان والكرامة والأمن الرقمي للمواطنين. وأوضحت أن الحظر يهدف إلى حماية الفئات الأكثر ضعفاً، مثل النساء والأطفال، من مخاطر المحتوى الإباحي المزيف الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.
وأضافت الوزيرة أن الوزارة استدعت ممثلين عن منصة X (تويتر سابقاً) لمناقشة هذه القضية وطلب توضيحات بشأن الإجراءات الوقائية التي تتخذها الشركة لمنع إساءة استخدام Grok. هذا الاستدعاء يعكس جدية الحكومة الإندونيسية في التعامل مع هذه القضية.
إجراءات xAI للحد من إساءة الاستخدام
في محاولة للاستجابة للانتقادات، أعلنت xAI مؤخراً عن تقييد ميزة توليد وتعديل الصور في Grok، بحيث تصبح متاحة فقط للمشتركين المدفوعين في باقات Premium وPremium+. وتهدف هذه الخطوة إلى الحد من انتشار المحتوى المسيء من خلال تقييد الوصول إليه.
ومع ذلك، يرى العديد من المراقبين أن هذا التقييد غير كافٍ، بل قد يكون بمثابة اعتراف ضمني بوجود ثغرات في النظام. كما أثار البعض تساؤلات حول أخلاقيات تحويل ميزة مثيرة للجدل إلى خدمة مدفوعة.
إيلون ماسك، من جانبه، أكد عبر منصة X أن أي شخص يستخدم Grok لإنتاج محتوى غير قانوني سيواجه عواقب وخيمة، بما في ذلك حظر الحسابات والتعاون الكامل مع السلطات المختصة. هذا التأكيد يهدف إلى طمأنة الجمهور وتوضيح موقف الشركة تجاه هذه القضية.
تداعيات دولية وتصاعد الضغوط التنظيمية
لم تقتصر ردود الفعل على إندونيسيا، فقد أعرب رئيس الوزراء الأسترالي أنتوني ألبانيز عن استيائه الشديد من استخدام الذكاء الاصطناعي للاعتداء الجنسي على الأفراد دون موافقتهم، واصفاً ذلك بأنه أمر “مروع”. وشدد على ضرورة تحمل منصات التواصل الاجتماعي مسؤولية أكبر في حماية مستخدميها.
وبالفعل، أعلن مكتب السلامة الإلكترونية في أستراليا عن زيادة ملحوظة في التقارير المتعلقة بصور جنسية تم إنشاؤها باستخدام Grok. كما هدد المكتب باستخدام صلاحياته لإزالة أي محتوى غير قانوني يتم العثور عليه على المنصة.
في المقابل، بدأت دول أخرى مثل المملكة المتحدة والاتحاد الأوروبي والهند وماليزيا وفرنسا تحقيقاتها الخاصة في هذه المسألة. وتدرس هذه الدول إمكانية اتخاذ إجراءات تنظيمية أكثر صرامة، بما في ذلك حظر X أو فرض غرامات مالية كبيرة على الشركة، وذلك بهدف حماية الأفراد من الاستغلال الجنسي والانتهاكات الأخلاقية المرتبطة بأدوات التزييف العميق.
تتزايد المخاوف بشأن الذكاء الاصطناعي وتأثيره على الأمن الرقمي وحقوق الإنسان. كما أن قضية Grok سلطت الضوء على الحاجة الملحة إلى تطوير أطر قانونية وتنظيمية فعالة للتعامل مع التحديات الجديدة التي يفرضها هذا المجال التكنولوجي المتطور. وتشكل صور التزييف العميق تحدياً خاصاً، نظراً لقدرتها على إلحاق ضرر كبير بسمعة الأفراد وحياتهم الشخصية.
بالإضافة إلى ذلك، يثير موضوع الخصوصية الرقمية تساؤلات حول كيفية حماية البيانات الشخصية ومنع استخدامها في إنشاء محتوى مسيء. وتتطلب معالجة هذه القضايا تعاوناً دولياً وتبادلاً للمعلومات بين الحكومات وشركات التكنولوجيا.
من المتوقع أن تستمر التحقيقات الدولية في قضية Grok خلال الأسابيع القادمة. كما من المحتمل أن تتخذ الحكومات إجراءات تنظيمية جديدة للحد من انتشار المحتوى الإباحي وغير القانوني الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. وسيكون من المهم مراقبة رد فعل xAI على هذه الضغوط، وما إذا كانت ستتخذ خطوات إضافية لتحسين الضوابط الأمنية في Grok.
