كتبت/ أية محمد

أعلنت هيئة الاتصالات والوسائط المتعددة الماليزية (MCMC) عن حظر مؤقت لروبوت الدردشة «Grok» التابع لشركة xAI، بعد رصد إساءة استخدام متكررة للأداة داخل البلاد، وأكدت الهيئة أن القرار جاء نتيجة فشل منصة X (تويتر سابقًا) في تطبيق إجراءات حماية فعّالة لمنع التلاعب بالصور وانتهاك الخصوصية الرقمية.

أوضحت الهيئة أن إحدى خصائص Grok، التي تتيح تعديل الصور المنشورة علنًا، استُغلت من قبل بعض المستخدمين لإنتاج محتوى خادش للحياء وصور معدلة دون موافقة أصحابها، واعتبرت الجهات التنظيمية أن هذه الممارسات تشكل خطرًا مباشرًا على السلامة الرقمية، خاصة عند استهداف النساء والأطفال.

ذكرت MCMC أنها وجهت إخطارين رسميين إلى منصة X وشركة xAI في 3 و8 يناير، طالبت خلالهما بتطبيق تدابير تقنية صارمة وأنظمة رقابة فعّالة للحد من المخاطر، إلا أن استجابة المنصة اقتصرت على آليات الإبلاغ من المستخدمين، دون معالجة المشكلة الأساسية المرتبطة بإمكانية الأداة على إنتاج محتوى جنسي غير لائق بشكل واقعي.

أكدت الهيئة أن الحلول المقدمة لم تعالج المخاطر الأساسية الناتجة عن أدوات الذكاء الاصطناعي القادرة على توليد محتوى متلاعب به، مشددة على أن الاكتفاء بالتبليغ اللاحق لا يكفي في ظل سرعة انتشار المحتوى وتأثيره على الضحايا.

وشددت MCMC على أن رفع الحظر مرهون بالتزام الشركة المالكة بتنفيذ إجراءات وقائية واضحة وفعّالة تمنع إساءة الاستخدام مستقبلًا، مؤكدة أن القرار يهدف إلى حماية المجتمع والحفاظ على كرامة الأفراد وأمنهم الرقمي.

يعكس القرار الماليزي تصاعد الضغوط التنظيمية على شركات الذكاء الاصطناعي عالميًا، في ظل مطالبات متزايدة بوضع أطر قانونية وتقنية تحكم استخدام هذه الأدوات، وتضمن عدم تحولها إلى وسيلة لانتهاك الخصوصية أو الإساءة للأفراد تحت غطاء التكنولوجيا المتقدمة.