حظرت لجنة التجارة الفيدرالية تطبيق مراسلة مجهول الهوية للأطفال دون 18 عامًا في خطوة غير مسبوقة ضد "التنمر الإلكتروني والتهديدات المتفشية". التطبيق سيدفع 5 ملايين دولار ويتعين عليه تنفيذ بوابة عمرية لحظر خدماته على المستخدمين الحاليين والجدد دون 18 عامًا.
حظرت لجنة التجارة الفيدرالية ومكتب المدعي العام في لوس أنجلوس تطبيق مراسلة مجهول الهوية مثير للجدل من خدمة الأطفال دون سن 18 عامًا، في خطوة غير مسبوقة وعدوانية ضد ما وصفه المنظمون بـ "التنمر الإلكتروني والتهديدات المتفشية ضد الأطفال والمراهقين" على المنصة.
الحظر المستهدف هو أحدث خطوة تتخذها لجنة التجارة الفيدرالية في حملة أوسع نطاقًا على شركات التواصل الاجتماعي ووسطاء البيانات وغيرها من الشركات التي يُزعم أنها تسيء التعامل مع بيانات المستهلكين أو تقدم ادعاءات مبالغ فيها حول الذكاء الاصطناعي.
كجزء من الدعوى القضائية والتسوية التي تم الإعلان عنها يوم الثلاثاء، سيدفع التطبيق الذي تمت معاقبته - المعروف باسم NGL - 5 ملايين دولار لتسوية ما قالت رئيسة لجنة التجارة الفيدرالية لينا خان إنه "تجاهل متهور لسلامة الأطفال". سيتعين على التطبيق أيضًا تنفيذ بوابة عمرية لحظر خدماته على المستخدمين الحاليين والجدد الذين تقل أعمارهم عن 18 عامًا. وقد كتب المنظمون أن التطبيق وصف نفسه بأنه "مساحة آمنة" للمراهقين، ولكنه في الواقع كان يستغلهم.
وبالإضافة إلى تسليط الضوء على متابعة لجنة التجارة الفيدرالية لوعودها السابقة بمراقبة ضجيج الذكاء الاصطناعي، فإن الدعوى القضائية تسمي بشكل مباشر مؤسسي الشركة المشاركين، مما يعكس التزامات الوكالة الأخيرة بمحاسبة المديرين التنفيذيين الأفراد عن المخالفات التي ترتكبها الشركات.
تم تنزيل التطبيق، المعروف باسم NGL، ملايين المرات، وفقًا للشكوى. NGL هو اختصار على الإنترنت لـ "لن أكذب".
وزعمت الدعوى القضائية أن NGL سوّقت نفسها بنشاط للمستخدمين الصغار وانتهكت القوانين الفيدرالية التي تهدف إلى حماية بيانات الأطفال، في حين يُزعم أن موظفيها سخروا من المستخدمين الذين يدفعون المال ووصفوهم بأنهم "مغفلون" بينما كانوا يتربحون من جهلهم.
قال جواو فيغيريدو، المؤسس المشارك لشركة NGL، في بيان له، إن الشركة أمضت ما يقرب من عامين في التعاون مع تحقيق لجنة التجارة الفيدرالية، لكنها تعارض النتائج التي توصلت إليها الوكالة، والتي وافقت عليها اللجنة المكونة من خمسة أعضاء بالإجماع.
"قال فيغيريدو: "نحن ننظر إلى هذا القرار على أنه فرصة لجعل NGL أفضل من أي وقت مضى لمستخدمينا، ونعتقد أن الاتفاق يصب في مصلحتنا. "في حين أننا نعتقد أن العديد من الادعاءات المتعلقة بشباب قاعدة مستخدمينا غير صحيحة من الناحية الواقعية، فإننا نتوقع أن يوفر الاتفاق على تحديد السن والإجراءات الأخرى المتفق عليها الآن توجيهات للآخرين في مجالنا، ونأمل أن يحسن السياسات بشكل عام."
لا يزال يتعين أن تتم الموافقة على التسوية من قبل المحكمة الجزئية الأمريكية للمنطقة المركزية في كاليفورنيا قبل أن تدخل حيز التنفيذ.
وجاء في الشكوى أن شركة NGL قامت بخداع المراهقين للاشتراك في خدمتها المميزة عن طريق إرسال رسائل مزيفة ومجهولة المصدر ثم وعدتهم بالكشف عن المرسل بعد أن يدفعوا.
وقالت الدعوى القضائية إن الرسائل التي تم إنشاؤها بواسطة الكمبيوتر كُتبت عمدًا لاستغلال قلق المراهقين أو تطلعاتهم الاجتماعية، مستشهدة بأمثلة مثل "أنا أعرف ما فعلته" و"لقد كنت معجبًا بك لسنوات".
وقالت الشكوى إن شركة NGL أنشأت أكثر من 1000 رسالة مختلفة من هذا القبيل متظاهرين بأنهم مستخدمون حقيقيون وأرسلتها ملايين المرات لإقناع المراهقين بالدفع لمعرفة من أرسلها. ولكن عندما دفع المستخدمون مقابل معلومات عن الرسائل المزيفة والحقيقية على حد سواء، وأحيانًا ما يصل إلى 9.99 دولارًا في الأسبوع، لم يُظهر التطبيق اسم المرسل بل قدم "تلميحات" مثل الموقع التقريبي للمستخدم أو نوع الجهاز المستخدم، وفقًا للدعوى القضائية.
وقالت الشكوى إن الرسائل بدأ إرسالها في عام 2022، أي بعد عام من إطلاق التطبيق الباهت. وبعد أن بدأ المستخدمون في الشك في الرسائل المزيفة، كتب العديد منهم مراجعات سلبية للتطبيق، بل إن بعضهم وصفه البعض بأنه عملية احتيال، وفقًا للدعوى القضائية.
يُزعم أن شركة NGL تفاخرت في تسويقها بأن التطبيق كان "مساحة آمنة للمراهقين" وأنه يستخدم الإشراف على المحتوى القائم على الذكاء الاصطناعي لحماية المستخدمين. لكن خلف الكواليس، يُزعم أن مؤسسي التطبيق تجاهلوا أو شوهوا سمعة المستخدمين الذين اشتكوا، حيث رد فيغيريدو في رسالة داخلية على تقرير عن أحد العملاء الغاضبين، وفقًا للدعوى القضائية.
تُعد الدعوى القضائية والتسوية مثالاً آخر على كيفية جعل خان، الناقدة الصريحة لصناعة التكنولوجيا، من تنظيم البيانات الرقمية سمة مميزة لولايتها.
فبالإضافة إلى تحذيرها من أن الذكاء الاصطناعي التوليدي قد "يشجع" عمليات الاحتيال والنصب، اقترحت خان العديد من اللوائح التنظيمية التي من شأنها تضييق الخناق على كيفية جمع الشركات لبيانات المستهلكين واستخدامها ومشاركتها. أحدها من شأنه أن يضيق الخناق على ما تسميه صناعة "المراقبة التجارية"، بينما يسعى قانون آخر إلى توسيع نطاق تطبيق لجنة التجارة الفيدرالية لقانون خصوصية الأطفال التاريخي.
وتسعى لجنة التجارة الفيدرالية حاليًا أيضًا إلى منع شركة Meta من تحقيق الدخل من بيانات الأطفال، وهي خطوة طعنت فيها الشركة في المحكمة. في عام 2022، أجبرت لجنة التجارة الفيدرالية شركة Epic Games، صانعة لعبة الفيديو الشهيرة "Fortnite"، على دفع 520 مليون دولار لتسوية مزاعم بأنها استخدمت حيلًا مخادعة في واجهة المستخدم تُعرف باسم "الأنماط المظلمة" لخداع المستخدمين لإجراء عمليات شراء داخل اللعبة.
تأتي خطوة لجنة التجارة الفيدرالية على خلفية موجة من التشريعات الحكومية التي تسعى إلى الحد من وصول الشباب إلى وسائل التواصل الاجتماعي. وفي سابقة أخرى هذا العام، وافقت نيويورك على تشريع ينظم الخوارزميات التي تعمل على تشغيل خوارزميات وسائل التواصل الاجتماعي على فيسبوك وإنستغرام وتيك توك وتطبيقات أخرى. كما أقرت ولايات مثل أركنساس وفلوريدا ولويزيانا والعديد من الولايات الأخرى قوانين تشدد على نهج شركات التواصل الاجتماعي تجاه المراهقين. ومع ذلك، يقول المعارضون إن هذه القوانين تنتهك حقوق التعديل الأول للدستور للمراهقين، وقد وافقت المحكمة العليا على النظر في دستورية القيود المفروضة على المواقع الإلكترونية القائمة على أساس العمر في دورتها القادمة.
وفي معرض تسليطه الضوء على الطبيعة الرائدة لتسوية NGL، وصف مفوض لجنة التجارة الفيدرالية أندرو فيرجسون الإجراء الذي تم اتخاذه يوم الثلاثاء بأنه استخدام "جديد" للسلطات القانونية للوكالة. وقال في بيان له إن لجنة التجارة الفيدرالية ادعت للمرة الأولى أن شركة NGL انتهكت القانون "من خلال تسويق تطبيق مراسلة مجهول الهوية للأطفال والمراهقين على الرغم من معرفتها بأن تطبيقات المراسلة المجهولة تضر بهذه الفئات".
وقال فيرجسون: "هذا السلوك المزعوم، المصمم خصيصًا للتلاعب بنفسية المراهقين الضعفاء، كان سلوكًا مستهجنًا وغير عادل". لكنه جادل بأن الجمهور لا ينبغي أن يفسر الدعوى القضائية على أنها تعني أنه من غير القانوني بشكل عام تسويق أي تطبيق مراسلة مجهول الهوية للمراهقين.
وفي يوم الثلاثاء، نسبت لجنة التجارة الفيدرالية الفضل إلى مجموعة الدفاع عن المستهلكين Fairplay والناقدة كريستين برايد في وسائل التواصل الاجتماعي على "المساعدة التي لا تقدر بثمن" في تحقيق NGL. في العام الماضي، أدلت برايد بشهادتها أمام الكونغرس في جلسة استماع رفيعة المستوى حول مخاطر وسائل التواصل الاجتماعي على المراهقين، وروت كيف مات ابنها المراهق كارسون منتحرًا في عام 2020 بعد تلقيه وابلًا من رسائل التنمر الإلكتروني المجهولة المصدر. في أكتوبر الماضي، كتبت برايد وفيربلاي إلى لجنة التجارة الفيدرالية مطالبين بإجراء تحقيق من قبل الوكالة في شركة NGL واتهامها بممارسات تجارية غير عادلة وخادعة تنتهك القانون الفيدرالي.
وفي بيان يوم الثلاثاء، أشادت برايد بالدعوى القضائية والتسوية.
وقالت برايد: "إن نموذج العمل الخطير هذا يبقي الأطفال منشغلين بينما يكافحون من أجل تحديد هوية المتحرشين المجهولين حتى تتمكن هذه الشركات من الاستفادة من جمع المزيد من البيانات". "من غير المعقول أن تقوم شركة NGL ليس فقط بفرض رسوم على المراهقين الضعفاء مقابل تلميحات غير مجدية حول من يراسلهم بل أن المطورين أنفسهم كانوا يرسلون رسائل مضايقة للمراهقين ويمزحون بشأنها بينما يعبر الآباء عن مخاوفهم من التنمر الإلكتروني."
