خَبَرَيْن logo

مجلس الرقابة يحث Meta على مكافحة التزييف العميق

تقرير: مجلس الرقابة يحث Meta على مكافحة التزييف العميق ويكشف عن تحقيقات حول الصور الإباحية الكاذبة والتحرش عبر الإنترنت. تفاصيل حول جهود Meta وتوصيات المجلس. #خَبَرْيْن

لافتة تحمل شعار شركة ميتا، تظهر في بيئة خارجية مع أشجار في الخلفية، تعكس جهود الشركة لمكافحة المحتوى الضار.
شعار ميتا يظهر على لافتة في مقر الشركة في مينلو بارك، كاليفورنيا، 9 نوفمبر 2022.
التصنيف:تكنولوجيا
شارك الخبر:
FacebookTwitterLinkedInEmail

تقرير مجلس الرقابة حول جهود ميتا في مكافحة الإباحية الوهمية

قال مجلس الرقابة التابع لشركة Meta يوم الخميس في تقرير يدعو عملاق التكنولوجيا إلى بذل المزيد من الجهد للتصدي لعمليات التزييف العميق العارية غير المتوافق مع القانون على منصاتها.

نتائج التحقيق في الصور الإباحية المزيفة

هذا التقرير هو نتيجة تحقيق أعلن عنه مجلس الرقابة على ميتا في أبريل في تعامل ميتا مع الصور الإباحية المزيفة العميقة، بما في ذلك حالتين محددتين نُشرت فيهما صور فاضحة لشخصية عامة أمريكية وشخصية عامة هندية.

تأثير الذكاء الاصطناعي على انتشار الإباحية الوهمية

اكتسب تهديد المواد الإباحية المولدة بالذكاء الاصطناعي اهتمامًا في الأشهر الأخيرة، حيث وقع مشاهير مثل تايلور سويفت، بالإضافة إلى طالبات المدارس الثانوية الأمريكية ونساء أخريات حول العالم، ضحايا لهذا النوع من الإساءة عبر الإنترنت. وقد جعلت أدوات الذكاء الاصطناعي التوليدي التي يمكن الوصول إليها على نطاق واسع من إنشاء مثل هذه الصور أسرع وأسهل وأرخص. وقد واجهت منصات وسائل التواصل الاجتماعي بما في ذلك ميتا - حيث يمكن أن تنتشر مثل هذه الصور بسرعة - ضغوطًا متزايدة لمكافحة هذه المشكلة.

حالات محددة من الصور الإباحية العميقة

شاهد ايضاً: يقول أبناء ترامب إن هاتفهم الجديد سيتم تصنيعه في الولايات المتحدة. الخبراء يقولون إنه يشبه كثيرًا هاتفًا من الصين.

في حالة صورة الشخصية العامة الأمريكية التي نُشرت على فيسبوك - والتي تم إنشاؤها بواسطة الذكاء الاصطناعي وتصورها عارية ويتم التحرش بها - قامت الشركة على الفور بإزالة الصورة، والتي سبق أن أضيفت إلى بنك مطابقة يكتشف تلقائيًا الصور المخالفة للقواعد. ولكن في حالة الشخصية العامة الهندية، على الرغم من الإبلاغ عن الصورة مرتين لشركة Meta، لم تقم الشركة بإزالة الصورة من إنستغرام حتى نظر مجلس الرقابة في القضية.

ردود فعل ميتا على قرارات مجلس الرقابة

وقال مجلس الرقابة في تقريره: "قررت شركة Meta أن قرارها الأصلي بترك المحتوى على إنستغرام كان خاطئًا وأزالت الشركة المنشور لانتهاكه معيار مجتمع التنمر والمضايقة". "في وقت لاحق، بعد أن بدأ المجلس مداولاته، قامت ميتا بتعطيل الحساب الذي نشر المحتوى."

تحديات الإشراف على المحتوى في ميتا

يشير التقرير إلى أن ميتا لا تطبق قواعدها باستمرار ضد الصور الجنسية غير المتوافقة، حتى مع التقدم في الذكاء الاصطناعي الذي جعل هذا النوع من التحرش شائعًا بشكل متزايد. يشير التقرير أيضًا إلى استمرار وجود مشاكل في ميتا في الإشراف على المحتوى في البلدان غير الغربية أو غير الناطقة بالإنجليزية، وهو ما واجهت الشركة انتقادات بشأنه من قبل.

التوصيات لتحسين جهود ميتا في مكافحة التزييف

شاهد ايضاً: Pornhub تغادر فرنسا بسبب قانون التحقق من العمر

وقالت ميتا في بيان لها إنها ترحب بقرار مجلس الإدارة. وأضافت أنه في حين أن المنشورات المحددة التي تم تحديدها في التقرير قد تمت إزالتها بالفعل، فإن الشركة "ستتخذ إجراءات" بشأن صور الشخصية العامة الهندية "المتطابقة وفي نفس السياق" كتلك التي أبرزها مجلس الرقابة "حيثما أمكن ذلك من الناحية الفنية والتشغيلية".

القلق بشأن ضحايا الصور الحميمية المزيفة

في تقريره، وضع مجلس الرقابة - وهو كيان شبه مستقل يتألف من خبراء في مجالات مثل حرية التعبير وحقوق الإنسان - توصيات إضافية حول كيفية تحسين Meta لجهودها في مكافحة التزييف الجنسي. وحثت الشركة على جعل قواعدها أكثر وضوحًا من خلال تحديث حظرها ضد "الفوتوشوب الجنسي المهين" لتشمل على وجه التحديد كلمة "غير التوافقي" ولتغطي بوضوح تقنيات التلاعب بالصور الأخرى مثل الذكاء الاصطناعي.

وفقًا للتقرير، أخبرت ميتا المجلس أنها لم تقم في الأصل بإضافة صورة الشخصية العامة الهندية إلى بنك مطابقة الصور المخالفة للقواعد لأنه لم تكن هناك تقارير إخبارية حولها، في حين أن وسائل الإعلام غطت صور الشخصية العامة الأمريكية. وقال المجلس: "هذا أمر مثير للقلق لأن العديد من ضحايا الصور الحميمية المزيفة العميقة ليسوا في أعين الجمهور ويضطرون إما لقبول انتشار صورهم غير المتوافق عليها أو البحث عن كل حالة والإبلاغ عنها"، مضيفًا أن ميتا يمكن أن تأخذ في الاعتبار عوامل أخرى، بما في ذلك ما إذا كانت الصورة من إنتاج الذكاء الاصطناعي عند تحديد ما إذا كان سيتم إضافتها إلى البنك.

جهود ميتا الأوسع لمنع الاستغلال الجنسي

شاهد ايضاً: القاضي يرفض طلب إيلون ماسك لوقف تحول OpenAI إلى شركة ربحية

بعد أن بدأ المجلس تحقيقه في أبريل، أضافت Meta الصورة إلى بنك مطابقة الصور.

إن الدفع لمحاربة التزييف العميق غير التوافقي هو مجرد جزء من جهود ميتا الأكبر لمنع الاستغلال الجنسي لمستخدميها. قالت الشركة يوم الأربعاء إنها أزالت حوالي 63,000 حساب في نيجيريا كانت متورطة في عمليات احتيال جنسي مالي، حيث يتم خداع الأشخاص (غالبًا ما يكونون مراهقين) لإرسال صور عارية ثم ابتزازهم.

أخبار ذات صلة

Loading...
رجل يستعرض جهازًا صحيًا مبتكرًا على طاولة عرض، مع التركيز على يده التي ترتدي حلقة ذكية.

خطة سامسونج الكبيرة للتنافس مع ساعة آبل: الحفاظ على صحتك مع تقدمك في العمر

تتجه سامسونج بخطوات واثقة نحو مستقبل الرعاية الصحية الرقمية، مستفيدة من شيخوخة السكان وارتفاع تكاليف الرعاية. مع تحديثات جديدة لساعة Galaxy Watch، تسعى الشركة لتقديم نصائح صحية مبتكرة. هل أنت مستعد لاكتشاف كيف ستغير هذه التكنولوجيا حياتك؟ تابع القراءة!
تكنولوجيا
Loading...
شاشة هاتف تعرض نموذج OpenAI o1 مع عبارة \"سلسلة جديدة من نماذج الذكاء الاصطناعي مصممة للتفكير قبل الرد\".

صانع ChatGPT يقول إن نموذجه الذكاء الاصطناعي الجديد يمكنه التفكير والاستدلال "بشكل يشبه إلى حد كبير الإنسان"

استعد لاكتشاف ثورة جديدة في عالم الذكاء الاصطناعي مع نموذج OpenAI o1، الذي يعد بتغيير قواعد اللعبة في حل المشكلات المعقدة. هذا الابتكار ليس مجرد تقدم تقني، بل هو خطوة نحو مستقبل يمكن فيه للذكاء الاصطناعي أن يفكر ويحلل مثل البشر. تابع القراءة لتتعرف على الإمكانيات المذهلة التي يحملها هذا النموذج وكيف يمكن أن يساهم في مجالات حيوية مثل الرعاية الصحية والفيزياء.
تكنولوجيا
Loading...
شعار تطبيق واتساب على شاشة هاتف ذكي، مع معلومات عن الإصدار. يعكس إزالة التطبيق من متجر أبل في الصين بسبب مخاوف الأمن القومي.

تطبيقات WhatsApp و Threads تم حذفهما من متجر تطبيقات Apple في الصين بأوامر من بكين

في خطوة مثيرة، أزالت Apple تطبيقات WhatApp و Threads من متجرها في الصين، استجابةً لمخاوف الأمن القومي. هذه الخطوة تعكس التوتر المتزايد بين عوالم التكنولوجيا. هل ستؤثر هذه التغييرات على تجربة المستخدمين في الصين؟ اكتشف المزيد في المقال!
تكنولوجيا
Loading...
شعار شركة Apple يظهر على واجهة زجاجية، مع انعكاسات المباني المحيطة، مما يعكس اهتمام الشركة بتكنولوجيا الذكاء الاصطناعي.

تأخذ شركة آبل الذكاء الاصطناعي على محمل الجد

تستعد Apple للدخول بقوة في عالم الذكاء الاصطناعي، حيث تكشف تقارير عن شراكتها المحتملة مع Google لتطوير قدرات جديدة تعزز من منتجاتها مثل iPhones و iOS 18. هل ستتمكن Apple من اللحاق بركب المنافسة؟ تابعوا معنا لمعرفة المزيد عن هذه التطورات المثيرة!
تكنولوجيا
الرئيسيةأخبارسياسةأعمالرياضةالعالمتكنولوجيااقتصادصحةتسلية