خَبَرْيْن logo

مجلس الرقابة يحث Meta على مكافحة التزييف العميق

تقرير: مجلس الرقابة يحث Meta على مكافحة التزييف العميق ويكشف عن تحقيقات حول الصور الإباحية الكاذبة والتحرش عبر الإنترنت. تفاصيل حول جهود Meta وتوصيات المجلس. #خَبَرْيْن

Loading...
Meta must do more to address non-consensual, deepfake porn, Oversight Board says
Meta's logo is seen on a sign at the company's headquarters in Menlo Park, Calif., Nov. 9, 2022. Godofredo A. Vásquez/AP
التصنيف:تكنولوجيا
شارك الخبر:
FacebookTwitterLinkedInEmail

يجب على ميتا أن تبذل مزيدًا من الجهد لمعالجة الإباحية الوهمية العميقة غير الموافق عليها، حسبما تقول لجنة الرقابة

قال مجلس الرقابة التابع لشركة Meta يوم الخميس في تقرير يدعو عملاق التكنولوجيا إلى بذل المزيد من الجهد للتصدي لعمليات التزييف العميق العارية غير المتوافق مع القانون على منصاتها.

هذا التقرير هو نتيجة تحقيق أعلن عنه مجلس الرقابة على ميتا في أبريل في تعامل ميتا مع الصور الإباحية المزيفة العميقة، بما في ذلك حالتين محددتين نُشرت فيهما صور فاضحة لشخصية عامة أمريكية وشخصية عامة هندية.

اكتسب تهديد المواد الإباحية المولدة بالذكاء الاصطناعي اهتمامًا في الأشهر الأخيرة، حيث وقع مشاهير مثل تايلور سويفت، بالإضافة إلى طالبات المدارس الثانوية الأمريكية ونساء أخريات حول العالم، ضحايا لهذا النوع من الإساءة عبر الإنترنت. وقد جعلت أدوات الذكاء الاصطناعي التوليدي التي يمكن الوصول إليها على نطاق واسع من إنشاء مثل هذه الصور أسرع وأسهل وأرخص. وقد واجهت منصات وسائل التواصل الاجتماعي بما في ذلك ميتا - حيث يمكن أن تنتشر مثل هذه الصور بسرعة - ضغوطًا متزايدة لمكافحة هذه المشكلة.

شاهد ايضاً: إيلون ماسك يحذف منشورًا يتساءل عن محاولة اغتيال ترامب

في حالة صورة الشخصية العامة الأمريكية التي نُشرت على فيسبوك - والتي تم إنشاؤها بواسطة الذكاء الاصطناعي وتصورها عارية ويتم التحرش بها - قامت الشركة على الفور بإزالة الصورة، والتي سبق أن أضيفت إلى بنك مطابقة يكتشف تلقائيًا الصور المخالفة للقواعد. ولكن في حالة الشخصية العامة الهندية، على الرغم من الإبلاغ عن الصورة مرتين لشركة Meta، لم تقم الشركة بإزالة الصورة من إنستغرام حتى نظر مجلس الرقابة في القضية.

وقال مجلس الرقابة في تقريره: "قررت شركة Meta أن قرارها الأصلي بترك المحتوى على إنستغرام كان خاطئًا وأزالت الشركة المنشور لانتهاكه معيار مجتمع التنمر والمضايقة". "في وقت لاحق، بعد أن بدأ المجلس مداولاته، قامت ميتا بتعطيل الحساب الذي نشر المحتوى."

يشير التقرير إلى أن ميتا لا تطبق قواعدها باستمرار ضد الصور الجنسية غير المتوافقة، حتى مع التقدم في الذكاء الاصطناعي الذي جعل هذا النوع من التحرش شائعًا بشكل متزايد. يشير التقرير أيضًا إلى استمرار وجود مشاكل في ميتا في الإشراف على المحتوى في البلدان غير الغربية أو غير الناطقة بالإنجليزية، وهو ما واجهت الشركة انتقادات بشأنه من قبل.

شاهد ايضاً: هواوي الصينية تكشف عن إجابتها على آيفون 16 من شركة آبل. ولكنها تأتي بسعر مرتفع

وقالت ميتا في بيان لها إنها ترحب بقرار مجلس الإدارة. وأضافت أنه في حين أن المنشورات المحددة التي تم تحديدها في التقرير قد تمت إزالتها بالفعل، فإن الشركة "ستتخذ إجراءات" بشأن صور الشخصية العامة الهندية "المتطابقة وفي نفس السياق" كتلك التي أبرزها مجلس الرقابة "حيثما أمكن ذلك من الناحية الفنية والتشغيلية".

في تقريره، وضع مجلس الرقابة - وهو كيان شبه مستقل يتألف من خبراء في مجالات مثل حرية التعبير وحقوق الإنسان - توصيات إضافية حول كيفية تحسين Meta لجهودها في مكافحة التزييف الجنسي. وحثت الشركة على جعل قواعدها أكثر وضوحًا من خلال تحديث حظرها ضد "الفوتوشوب الجنسي المهين" لتشمل على وجه التحديد كلمة "غير التوافقي" ولتغطي بوضوح تقنيات التلاعب بالصور الأخرى مثل الذكاء الاصطناعي.

وفقًا للتقرير، أخبرت ميتا المجلس أنها لم تقم في الأصل بإضافة صورة الشخصية العامة الهندية إلى بنك مطابقة الصور المخالفة للقواعد لأنه لم تكن هناك تقارير إخبارية حولها، في حين أن وسائل الإعلام غطت صور الشخصية العامة الأمريكية. وقال المجلس: "هذا أمر مثير للقلق لأن العديد من ضحايا الصور الحميمية المزيفة العميقة ليسوا في أعين الجمهور ويضطرون إما لقبول انتشار صورهم غير المتوافق عليها أو البحث عن كل حالة والإبلاغ عنها"، مضيفًا أن ميتا يمكن أن تأخذ في الاعتبار عوامل أخرى، بما في ذلك ما إذا كانت الصورة من إنتاج الذكاء الاصطناعي عند تحديد ما إذا كان سيتم إضافتها إلى البنك.

شاهد ايضاً: هل ستكون الذكاء الاصطناعي قادرًا على تحقيق أرباح مالية؟ - من وول ستريت إلى التكنولوجيا الكبيرة

بعد أن بدأ المجلس تحقيقه في أبريل، أضافت Meta الصورة إلى بنك مطابقة الصور.

إن الدفع لمحاربة التزييف العميق غير التوافقي هو مجرد جزء من جهود ميتا الأكبر لمنع الاستغلال الجنسي لمستخدميها. قالت الشركة يوم الأربعاء إنها أزالت حوالي 63,000 حساب في نيجيريا كانت متورطة في عمليات احتيال جنسي مالي، حيث يتم خداع الأشخاص (غالبًا ما يكونون مراهقين) لإرسال صور عارية ثم ابتزازهم.

أخبار ذات صلة

Loading...
It’s not just you. More weird spam is popping up on Facebook

ليس فقط أنت. المزيد من الرسائل غير المرغوبة الغريبة تظهر على فيسبوك

إذا استوقفتك صورة غريبة مؤخرًا أثناء تصفح صفحتك على فيسبوك، فأنت لست وحدك. فالمستخدمون الذين كانوا يأتون إلى فيسبوك للتواصل مع الأصدقاء والعائلة يشتكون بشكل متزايد من ظهور محتوى عشوائي غير مرغوب فيه وغير مرغوب فيه - يبدو أن معظمه من إنتاج الذكاء الاصطناعي - في خلاصاتهم. في بعض الأحيان يكون من...
تكنولوجيا
Loading...
Chaos on social media platforms after Trump shooting is a mess of their own making

فوضى على منصات التواصل الاجتماعي بعد حادثة إطلاق النار من قبل ترامب: فوضى صنعوها بأنفسهم

كانت الاستجابة الفاترة لوسائل التواصل الاجتماعي هذا الأسبوع لنظريات المؤامرة التي انتشرت بشكل كبير على منصاتها حول محاولة اغتيال الرئيس السابق دونالد ترامب جزءًا من تحول هادف بعيدًا عن مراقبة الخطاب على الإنترنت - حتى في مواجهة الخطاب الذي يحتمل أن يكون خطيرًا. لا يمكن أن يكون رد الفعل أكثر...
تكنولوجيا
Loading...
Car dealerships hit with massive computer system outage

تواجه وكالات السيارات انقطاعًا ضخمًا في نظام الحاسوب

قالت الشركة إن حادثًا إلكترونيًا وقع يوم الأربعاء في شركة CDK Global، التي تُستخدم برمجياتها في 15 ألف وكيل سيارات، أعاق عملياتها في وكالات الولايات المتحدة وكندا. وقالت ليزا فيني المتحدثة باسم شركة CDK في بيان تمت مشاركته مع CNN: "نحن نحقق بنشاط في حادث إلكتروني". "من منطلق الحذر الشديد والقلق...
تكنولوجيا
Loading...
Elon Musk’s X is back to giving out free blue checks. It’s no surprise they were a tough sell

عودة إيلون ماسك إلى منح علامات التحقق الزرقاء مجانًا. ليس مفاجئًا أنها كانت صعبة المبيعات

يبدو أن إيلون ماسك أخيرًا (إلى حد كبير) قد استسلم في محاولته لجعل علامات التحقق الزرقاء المدفوعة على X أمرًا ممكنًا. هذا الأسبوع، فوجئ مستخدمو X ذوو المتابعين الكبيرين بظهور علامات التحقق الزرقاء الخاصة بهم - التي كانوا قد حصلوا عليها في إطار نظام التحقق السابق لتويتر وفقدوها عندما قام ماسك...
تكنولوجيا
الرئيسيةأخبارسياسةأعمالرياضةالعالمتكنولوجيااقتصادصحةتسلية