تحذيرات من محتوى فاضح للأطفال على منصة X

انتقادات الاتحاد الأوروبي لمحتوى Grok AI

أدانت المفوضية الأوروبية ما تم الإبلاغ عنه من انتشار محتوى فاضح يشبه الأطفال على منصة التواصل الاجتماعي X، واصفةً المواد بأنها "مروعة" و"مثيرة للاشمئزاز".

تصريحات المفوضية الأوروبية حول المحتوى الفاضح

وأدلى المتحدث باسم الشؤون الرقمية في الاتحاد الأوروبي توماس ريجنييه بهذه التعليقات للصحفيين يوم الاثنين بعد أسابيع من الشكاوى حول ميزة جديدة على روبوت الدردشة المدمج بالذكاء الاصطناعي في X، والذي يُستخدم لإنشاء محتوى إباحي، بما في ذلك تصوير الأطفال.

تأثير ميزة "الوضع المثير" على المحتوى

قال ريجنييه: "يقدم Grok الآن "وضعًا مثيرًا" يعرض محتوى جنسيًا صريحًا مع بعض المخرجات التي تم إنشاؤها بصور تشبه الأطفال. "هذا ليس مثيرًا. هذا غير قانوني. هذا مروع. هذا مثير للاشمئزاز."

وقال ريجنييه إن المفوضية الأوروبية "تنظر بجدية شديدة" في هذه المسألة، وأن مثل هذا المحتوى "لا مكان له في أوروبا".

تحقيقات مكتب المدعي العام في باريس

وفي الوقت نفسه، وسّع مكتب المدعي العام في باريس بفرنسا التحقيق في قضية X ليشمل اتهامات بأن تطبيق Grok الذي أنشأته شركة xAI التابعة لإيلون ماسك قد استُخدم في إنتاج ونشر مواد إباحية للأطفال.

في أواخر ديسمبر، سمحت ميزة "تعديل الصورة" الجديدة على Grok للمستخدمين بتعديل أي صورة على المنصة. قرر بعض المستخدمين أن يطلبوا من Grok إزالة الملابس جزئيًا أو كليًا عن النساء أو الأطفال في الصور.

ميزة "تعديل الصورة" وتأثيرها على المحتوى

استجابت Grok لطلبات عديدة من المستخدمين بتعديل صور النساء لإظهارهن بملابس كاشفة مثل البكيني الشفاف.

اعترفت Grok يوم الجمعة بـ "هفوات في الضمانات" وقالت إنها "تعمل على إصلاحها بشكل عاجل". وقالت في منشور لها: "CSAM (مواد الاعتداء الجنسي على الأطفال) غير قانونية ومحظورة".

استجابة Grok لانتقادات المستخدمين

لكن خبراء السلامة في مجال الذكاء الاصطناعي قالوا إن المنصة تجاهلت شهورًا من التحذيرات من أن مثل هذه الانتهاكات وشيكة الحدوث.

قال تايلر جونستون، المدير التنفيذي لمجموعة مراقبة الذكاء الاصطناعي The Midas Project: "في أغسطس، حذرنا من أن توليد الصور في xAI كان في الأساس أداة تعرية تنتظر أن يتم استخدامها كسلاح". "هذا ما حدث في الأساس."

تحذيرات خبراء السلامة في الذكاء الاصطناعي

وقد واجهت شركة X، التي استحوذ عليها ماسك في عام 2022، بالفعل رد فعل عنيف من الاتحاد الأوروبي بسبب سياساتها المتعلقة بالإعلانات والإشراف على المحتوى.

تاريخ شركة X مع الانتقادات الأوروبية

فقد أصدرت بروكسل في ديسمبر الماضي غرامة قدرها 120 مليون يورو (140 مليون دولار) على المنصة لخرقها قواعد الاتحاد الأوروبي الخاصة بالمحتوى الرقمي بشأن الشفافية في الإعلانات، وطرق التحقق من المستخدمين.

غرامات الاتحاد الأوروبي على منصة X

لا تزال X قيد التحقيق بموجب قانون الخدمات الرقمية للاتحاد الأوروبي في تحقيق بدأ في ديسمبر 2023.

تاريخ Grok AI والمحتوى المثير للجدل

ولشركة Grok تاريخ مثير للجدل، بما في ذلك إنشاء محتوى غير تاريخي ومتحيز. في العام الماضي، قامت شركة ماسك بإزالة منشورات من روبوت الدردشة الآلي الذي بدا أنه يشيد بأدولف هتلر بعد شكاوى من محتوى معادٍ للسامية.