محكمة هولندية تمنع xAI من إنتاج صور عارية

قرار المحكمة الهولندية بشأن xAI's Grok

أمرت محكمة هولندية شركة xAI المملوكة لإيلون ماسك بالتوقف عن إنشاء وتوزيع صور عارية لأشخاص دون موافقتهم في هولندا، محذرة من أنها ستفرض غرامات قدرها 100,000 يورو (115,350 دولارًا أمريكيًا) يوميًا في حالة عدم الامتثال.

تفاصيل الحكم القضائي

قضت محكمة أمستردام الجزئية يوم الخميس بمنع أداة الذكاء الاصطناعي Grok التابعة لشركة xAI ومنصة X التي تستضيفها من "توليد أو توزيع صور جنسية" تظهر أشخاصًا "عراة جزئيًا أو كليًا دون الحصول على إذن صريح منهم".

مسؤولية xAI عن إنشاء الصور الجنسية

كان هذا القرار في دعوى مدنية واحدة من أولى المرات التي ينظر فيها قاضٍ في مسؤولية xAI عن إنشاء أدوات يمكن استخدامها لإنشاء صور جنسية، وسط سيل من الشكاوى والتحقيقات بشأن Grok في الأمريكتين وأوروبا وآسيا وأستراليا.

إطلاق Grok وتوزيعها

تم إطلاق Grok من قِبل ماسك في عام 2023 وتم توزيعها من خلال منصة التواصل الاجتماعي الخاصة به X، والتي أصبحت الآن جزءًا من شركته SpaceX لاستكشاف الصواريخ والفضاء.

إجراءات مركز Offlimits القانونية

وقد اتخذ مركز Offlimits، وهو مركز هولندي يراقب العنف على الإنترنت، إجراءً قانونيًا بالتعاون مع صندوق دعم الضحايا غير الربحي بسبب خاصية Grok التي تسمح للمستخدمين أن يطلبوا منه إنشاء مونتاجات شديدة الواقعية لنساء وأطفال عراة باستخدام صور حقيقية.

دفاع xAI عن منصتها

في جلسة استماع هذا الشهر، جادل محامو xAI بأنه من المستحيل ضمان منع إساءة الاستخدام على منصتها، ولا ينبغي معاقبة الشركة على أفعال المستخدمين الخبيثة.

وقالوا إن الشركة اتخذت تدابير في يناير/كانون الثاني لمنع Grok من تحرير صور لأشخاص حقيقيين بملابس كاشفة، بما في ذلك قصر ميزات إنشاء الصور على المشتركين المدفوعين.

فعالية التدابير المتخذة من قبل xAI

وقال موقع المحكمة على الإنترنت إن القاضي قرر أن Offlimits، أظهر أن هناك شكًا معقولاً في فعالية التدابير المتخذة حتى الآن. وذكر الموقع أنه "على سبيل المثال، تمكن Offlimits، من إنتاج مقطع فيديو لشخص عاري باستخدام Grok قبل وقت قصير من جلسة الاستماع".

تصريحات مدير Offlimits

قال مدير Offlimits، روبيرت هوفينج إن "العبء يقع على عاتق الشركة" للتأكد من عدم استخدام أدواتها في إنشاء وتوزيع صور جنسية غير متوافق عليها، بما في ذلك صور الأطفال.

في وقت سابق من يوم الخميس، وافق البرلمان الأوروبي على فرض حظر على أنظمة الذكاء الاصطناعي التي تولد صورًا جنسية مزيفة، بعد الغضب العالمي من الصور العارية غير التراضية التي أنتجتها شركة Grok.