كتبت/ إيناس أبوالفضل

هددت شركة Apple بإزالة تطبيق الذكاء الاصطناعي “غروك” التابع لشركة xAI من متجر التطبيقات خلال شهر يناير، وذلك على خلفية اتهامات تتعلق بعدم اتخاذ إجراءات كافية لمنع انتشار محتوى غير لائق يتم إنشاؤه عبر التطبيق.

وجاء هذا التحرك وفق رسالة رسمية أرسلتها أبل إلى أعضاء في مجلس الشيوخ الأمريكي، أشارت فيها إلى أن التطبيق سمح بظهور صور “مخلة” يتم توليدها باستخدام تقنيات الذكاء الاصطناعي، قبل أن تطالب الشركة المطورة بضرورة تعزيز أنظمة الحماية والرقابة داخل التطبيق.

وبحسب ما ورد في الرسالة، فإن شركة أبل راجعت التحديثات التي قدمتها xAI لاحقًا، واعتبرت أنها عالجت جزءًا من المخالفات، ما أدى إلى استمرار وجود التطبيق على متجرها بعد إدخال تحسينات على آليات الحماية.

وفي وقت لاحق، رأت الشركة أن التطبيق شهد تحسنًا ملحوظًا في التعامل مع المحتوى، ما دفعها إلى الموافقة على النسخة المحدثة منه.

وكان عدد من أعضاء مجلس الشيوخ الأمريكي قد وجهوا رسالة إلى الرئيس التنفيذي لشركة أبل تيم كوك والرئيس التنفيذي لشركة جوجل، مطالبين فيها بإزالة تطبيق “إكس” و“غروك” من متاجر التطبيقات، بسبب مخاوف تتعلق بإنتاج محتوى غير لائق، خاصة ما يتعلق بصور لأطفال ونساء.

وأكد المشرعون أن استمرار هذه التطبيقات دون رقابة صارمة قد يشكل تهديدًا مباشرًا لمعايير الأمان الرقمي داخل متاجر التطبيقات.

مخاوف متزايدة من إساءة استخدام الذكاء الاصطناعي
وأشارت تقارير إلى أن بعض المستخدمين استغلوا أداة “غروك” في إنشاء صور غير أخلاقية، وهو ما أثار جدلًا واسعًا حول مسؤولية منصات الذكاء الاصطناعي في مراقبة المحتوى الناتج عنها.

وتنص سياسات كل من أبل وجوجل على حظر المحتوى المسيء أو الذي يسهّل استغلال القُصّر، مع التأكيد على ضرورة توفير بيئة استخدام آمنة داخل التطبيقات.

ويأتي هذا الجدل في ظل تصاعد النقاشات عالميًا حول حدود حرية استخدام أدوات الذكاء الاصطناعي، مقابل ضرورة فرض ضوابط صارمة لمنع إساءة استخدامها، خاصة مع توسع انتشار هذه التقنيات وقدرتها على إنتاج محتوى واقعي بدرجة عالية.