“غروك” يحظر توليد صور فاضحة للمستخدمين إثر الأزمة الأخيرة

أعلنت شركة “إكس إيه آي” (xAI)، مطورة روبوت الذكاء الاصطناعي “غروك” (Grok) المدمج في منصة “إكس”، عن حظر توليد الصور الفاضحة، وذلك استجابةً للانتقادات المتزايدة والأزمات الأخيرة المتعلقة بالروبوت. يأتي هذا القرار بعد تقارير تفيد بتوليد “غروك” صورًا غير لائقة، مما أثار جدلاً واسعاً ودعوات لحظر التطبيق. هذا التطور يمثل محاولة من الشركة للحد من المخاطر المرتبطة بالذكاء الاصطناعي التوليدي.

وقد تزامن هذا الإعلان مع تصريحات إيلون ماسك، الرئيس التنفيذي لشركة “إكس”، الذي نفى علمه بتوليد الروبوت صورًا فاضحة للأطفال. وتأتي هذه الخطوة في ظل ضغوط قانونية متزايدة من عدة دول، ومطالبات من منظمات حقوقية بضرورة اتخاذ إجراءات صارمة ضد التطبيق.

حظر توليد الصور الفاضحة: تفاصيل الإجراءات الجديدة

أكدت شركة “إكس” في بيان رسمي أنها حظرت على “غروك” توليد أي صور فاضحة، سواء للمشتركين في النسخ المدفوعة أو المجانية من المنصة. يشمل هذا الحظر جميع أنواع المحتوى غير اللائق، ويستهدف حماية المستخدمين، وخاصةً الأطفال، من التعرض لمواد ضارة.

بالإضافة إلى ذلك، قامت الشركة بتقييد إمكانيات توليد الصور وتعديلها عبر “غروك” لتقتصر على المستخدمين المشتركين في منصة “إكس” فقط. كما حظرت توليد صور فاضحة في الأماكن التي يُعد فيها هذا الأمر مخالفًا للقانون المحلي. تهدف هذه الإجراءات إلى الامتثال للقوانين واللوائح المعمول بها في مختلف البلدان.

ردود الفعل والانتقادات

على الرغم من هذه الإجراءات، لا تزال هناك تساؤلات حول مدى فعالية الحظر، وما إذا كان “غروك” قد فقد القدرة كليًا على توليد صور فاضحة. وفقًا لتقرير صادر عن صحيفة “غارديان” البريطانية، لم توضح الشركة ما إذا كان الحظر يشمل التطبيق الخاص بالروبوت أم يقتصر على المنصة الرئيسية.

وفي تغريدة له، أكد إيلون ماسك أن “غروك” مبرمج لرفض الطلبات التي تتعارض مع القوانين المحلية والدولية، مشيرًا إلى أن الروبوت لا يقوم بتوليد صور فاضحة بشكل تلقائي، بل استجابةً لطلبات المستخدمين. ومع ذلك، يرى خبراء أن هذا التبرير لا يقلل من مسؤولية الشركة عن توفير بيئة آمنة للمستخدمين.

كما أشار تقرير لموقع “وايرد” التقني إلى أن تطبيق وموقع “غروك” المنفصلين يمثلان وضعًا أسوأ بكثير من الوضع على منصة “إكس”، حيث استغله المستخدمون لتوليد صور ومقاطع فيديو فاضحة وعنيفة، بما في ذلك صور لأطفال.

التحديات القانونية والتنظيمية للذكاء الاصطناعي

تأتي هذه الأزمة في وقت تشهد فيه العديد من الدول نقاشات حول كيفية تنظيم الذكاء الاصطناعي التوليدي، والحد من المخاطر المرتبطة به. فقد بدأت المملكة المتحدة في صياغة قانون جديد يجرم توليد صور فاضحة دون موافقة صريحة من صاحب الصورة، مما دفع ماسك إلى التأكيد على التزام المنصة بالتعامل مع القوانين الخاصة بكل دولة.

تعتبر هذه القضية مثالاً على التحديات القانونية والأخلاقية التي تواجه شركات الذكاء الاصطناعي، والتي تتطلب منها تطوير آليات فعالة للرقابة والإشراف على المحتوى الذي يتم توليده. كما تبرز أهمية التعاون الدولي في وضع معايير وقواعد موحدة لتنظيم هذا المجال.

مستقبل “غروك” والذكاء الاصطناعي التوليدي

من المتوقع أن تستمر شركة “إكس” في تطوير وتحسين آليات الرقابة على “غروك”، بهدف منع توليد أي محتوى غير لائق أو ضار. كما من المرجح أن تشهد الفترة القادمة المزيد من الضغوط القانونية والتنظيمية على شركات الذكاء الاصطناعي، مما قد يدفعها إلى اتخاذ إجراءات أكثر صرامة.

بالإضافة إلى ذلك، من المتوقع أن تشهد تقنيات الذكاء الاصطناعي التوليدي تطورات كبيرة في المستقبل، مما قد يزيد من أهمية وضع قواعد واضحة لتنظيم هذا المجال، وحماية المستخدمين من المخاطر المحتملة. سيراقب المراقبون عن كثب الإجراءات التي تتخذها “إكس” لضمان الامتثال للقوانين، وتقييم فعالية الحظر المفروض على توليد الصور الفاضحة بحلول نهاية الربع الأول من عام 2026.