مجلس الرقابة يحث Meta على مكافحة التزييف العميق

تقرير مجلس الرقابة حول جهود ميتا في مكافحة الإباحية الوهمية

قال مجلس الرقابة التابع لشركة Meta يوم الخميس في تقرير يدعو عملاق التكنولوجيا إلى بذل المزيد من الجهد للتصدي لعمليات التزييف العميق العارية غير المتوافق مع القانون على منصاتها.

نتائج التحقيق في الصور الإباحية المزيفة

هذا التقرير هو نتيجة تحقيق أعلن عنه مجلس الرقابة على ميتا في أبريل في تعامل ميتا مع الصور الإباحية المزيفة العميقة، بما في ذلك حالتين محددتين نُشرت فيهما صور فاضحة لشخصية عامة أمريكية وشخصية عامة هندية.

تأثير الذكاء الاصطناعي على انتشار الإباحية الوهمية

اكتسب تهديد المواد الإباحية المولدة بالذكاء الاصطناعي اهتمامًا في الأشهر الأخيرة، حيث وقع مشاهير مثل تايلور سويفت، بالإضافة إلى طالبات المدارس الثانوية الأمريكية ونساء أخريات حول العالم، ضحايا لهذا النوع من الإساءة عبر الإنترنت. وقد جعلت أدوات الذكاء الاصطناعي التوليدي التي يمكن الوصول إليها على نطاق واسع من إنشاء مثل هذه الصور أسرع وأسهل وأرخص. وقد واجهت منصات وسائل التواصل الاجتماعي بما في ذلك ميتا - حيث يمكن أن تنتشر مثل هذه الصور بسرعة - ضغوطًا متزايدة لمكافحة هذه المشكلة.

حالات محددة من الصور الإباحية العميقة

في حالة صورة الشخصية العامة الأمريكية التي نُشرت على فيسبوك - والتي تم إنشاؤها بواسطة الذكاء الاصطناعي وتصورها عارية ويتم التحرش بها - قامت الشركة على الفور بإزالة الصورة، والتي سبق أن أضيفت إلى بنك مطابقة يكتشف تلقائيًا الصور المخالفة للقواعد. ولكن في حالة الشخصية العامة الهندية، على الرغم من الإبلاغ عن الصورة مرتين لشركة Meta، لم تقم الشركة بإزالة الصورة من إنستغرام حتى نظر مجلس الرقابة في القضية.

ردود فعل ميتا على قرارات مجلس الرقابة

وقال مجلس الرقابة في تقريره: "قررت شركة Meta أن قرارها الأصلي بترك المحتوى على إنستغرام كان خاطئًا وأزالت الشركة المنشور لانتهاكه معيار مجتمع التنمر والمضايقة". "في وقت لاحق، بعد أن بدأ المجلس مداولاته، قامت ميتا بتعطيل الحساب الذي نشر المحتوى."

تحديات الإشراف على المحتوى في ميتا

يشير التقرير إلى أن ميتا لا تطبق قواعدها باستمرار ضد الصور الجنسية غير المتوافقة، حتى مع التقدم في الذكاء الاصطناعي الذي جعل هذا النوع من التحرش شائعًا بشكل متزايد. يشير التقرير أيضًا إلى استمرار وجود مشاكل في ميتا في الإشراف على المحتوى في البلدان غير الغربية أو غير الناطقة بالإنجليزية، وهو ما واجهت الشركة انتقادات بشأنه من قبل.

التوصيات لتحسين جهود ميتا في مكافحة التزييف

وقالت ميتا في بيان لها إنها ترحب بقرار مجلس الإدارة. وأضافت أنه في حين أن المنشورات المحددة التي تم تحديدها في التقرير قد تمت إزالتها بالفعل، فإن الشركة "ستتخذ إجراءات" بشأن صور الشخصية العامة الهندية "المتطابقة وفي نفس السياق" كتلك التي أبرزها مجلس الرقابة "حيثما أمكن ذلك من الناحية الفنية والتشغيلية".

القلق بشأن ضحايا الصور الحميمية المزيفة

في تقريره، وضع مجلس الرقابة - وهو كيان شبه مستقل يتألف من خبراء في مجالات مثل حرية التعبير وحقوق الإنسان - توصيات إضافية حول كيفية تحسين Meta لجهودها في مكافحة التزييف الجنسي. وحثت الشركة على جعل قواعدها أكثر وضوحًا من خلال تحديث حظرها ضد "الفوتوشوب الجنسي المهين" لتشمل على وجه التحديد كلمة "غير التوافقي" ولتغطي بوضوح تقنيات التلاعب بالصور الأخرى مثل الذكاء الاصطناعي.

وفقًا للتقرير، أخبرت ميتا المجلس أنها لم تقم في الأصل بإضافة صورة الشخصية العامة الهندية إلى بنك مطابقة الصور المخالفة للقواعد لأنه لم تكن هناك تقارير إخبارية حولها، في حين أن وسائل الإعلام غطت صور الشخصية العامة الأمريكية. وقال المجلس: "هذا أمر مثير للقلق لأن العديد من ضحايا الصور الحميمية المزيفة العميقة ليسوا في أعين الجمهور ويضطرون إما لقبول انتشار صورهم غير المتوافق عليها أو البحث عن كل حالة والإبلاغ عنها"، مضيفًا أن ميتا يمكن أن تأخذ في الاعتبار عوامل أخرى، بما في ذلك ما إذا كانت الصورة من إنتاج الذكاء الاصطناعي عند تحديد ما إذا كان سيتم إضافتها إلى البنك.

جهود ميتا الأوسع لمنع الاستغلال الجنسي

بعد أن بدأ المجلس تحقيقه في أبريل، أضافت Meta الصورة إلى بنك مطابقة الصور.

إن الدفع لمحاربة التزييف العميق غير التوافقي هو مجرد جزء من جهود ميتا الأكبر لمنع الاستغلال الجنسي لمستخدميها. قالت الشركة يوم الأربعاء إنها أزالت حوالي 63,000 حساب في نيجيريا كانت متورطة في عمليات احتيال جنسي مالي، حيث يتم خداع الأشخاص (غالبًا ما يكونون مراهقين) لإرسال صور عارية ثم ابتزازهم.