خَبَرَيْن logo

دعوى قضائية ضد Character.AI بسبب مخاطرها على الأطفال

رفعت عائلتان دعوى قضائية ضد Character.AI، متهمتين إياها بتقديم محتوى ضار للأطفال. تطالب الدعوى بإغلاق المنصة بعد تقارير عن تأثيراتها السلبية الخطيرة على الصحة النفسية للشباب. اكتشف المزيد عن هذه القضية المثيرة للجدل على خَبَرَيْن.

شاشة هاتف ذكي تعرض واجهة تطبيق Character.AI، الذي يتيح للمستخدمين التفاعل مع روبوتات ذكاء اصطناعي مخصصة.
تواجه Character.AI دعواها القضائية الثانية منذ أكتوبر بسبب الأضرار المزعومة التي لحقت بالمستخدمين الشباب.
التصنيف:تكنولوجيا
شارك الخبر:
FacebookTwitterLinkedInEmail

دعوى قضائية ضد Character.AI بسبب مخاوف سلامة الشباب

رفعت عائلتان دعوى قضائية ضد شركة روبوتات الدردشة بالذكاء الاصطناعي Character.AI، متهمتين إياها بتقديم محتوى جنسي لأطفالهما وتشجيع إيذاء النفس والعنف. تطلب الدعوى القضائية من المحكمة إغلاق المنصة حتى يتم إصلاح مخاطرها المزعومة.

مزاعم حول تأثيرات سلبية على الأطفال

تزعم الدعوى القضائية التي رفعها والدا شابين استخدما المنصة، أن Character.AI "يشكل خطرًا واضحًا وقائمًا على الشباب الأمريكي مما يسبب أضرارًا جسيمة لآلاف الأطفال، بما في ذلك الانتحار وتشويه الذات والإغواء الجنسي والعزلة والاكتئاب والقلق وإيذاء الآخرين"، وفقًا للشكوى المقدمة يوم الاثنين في محكمة فيدرالية في تكساس.

حالات فردية من التأثيرات الضارة

على سبيل المثال، تزعم الشكوى أن روبوت Character.AI أوحى لمستخدم مراهق بأنه يمكن أن يقتل والديه بسبب الحد من وقت مشاهدته.

شاهد ايضاً: قد تقوم الذكاء الاصطناعي بمسح سيرتك الذاتية. إليك ما يجب أن يعرفه الباحثون عن عمل

تقوم شركة Character.AI بتسويق تقنيتها على أنها "ذكاء اصطناعي مخصص لكل لحظة من يومك" وتسمح للمستخدمين بالدردشة مع مجموعة متنوعة من روبوتات الذكاء الاصطناعي، بما في ذلك بعض الروبوتات التي أنشأها مستخدمون آخرون أو التي يمكن للمستخدمين تخصيصها لأنفسهم.

يمكن لهذه الروبوتات تقديم توصيات بالكتب وممارسة اللغات الأجنبية مع المستخدمين، وتسمح للمستخدمين بالدردشة مع روبوتات تدّعي أنها تتقمص شخصيات شخصيات خيالية، مثل إدوارد كولين من رواية Twilight. وقد وصف أحد الروبوتات المدرجة على الصفحة الرئيسية للمنصة يوم الاثنين، والذي يُدعى "ستيب داد"، نفسه بأنه "عدواني ومتعسف وعسكري سابق وزعيم مافيا".

إجراءات السلامة التي اتخذتها Character.AI

يأتي هذا الإيداع بعد أن رفعت أم من فلوريدا دعوى قضائية منفصلة ضد Character.AI في أكتوبر، مدعية أن المنصة هي المسؤولة عن وفاة ابنها البالغ من العمر 14 عامًا بعد أن شجعته على الانتحار. ويأتي ذلك وسط مخاوف أوسع نطاقًا بشأن العلاقات بين الأشخاص وأدوات الذكاء الاصطناعي التي تشبه البشر بشكل متزايد.

شاهد ايضاً: إيلون ماسك يعتقد أن الروبوتات تمثل سوقًا بقيمة 10 تريليونات دولار. لديه بعض المنافسة من الصين

وفي أعقاب الدعوى القضائية السابقة، قالت شركة Character.AI إنها طبقت تدابير جديدة للثقة والسلامة على مدار الأشهر الستة السابقة، بما في ذلك نافذة منبثقة توجه المستخدمين إلى الخط الوطني لمنع الانتحار عندما يذكرون إيذاء النفس أو الانتحار. كما أعلنت الشركة أيضًا أنها عينت رئيسًا لقسم الثقة والسلامة بالإضافة إلى رئيس لسياسة المحتوى، ووظفت موظفين إضافيين للسلامة الهندسية.

تفاصيل الدعوى الجديدة ضد Character.AI

لكن الدعوى الجديدة تسعى الدعوى القضائية الجديدة إلى الذهاب إلى أبعد من ذلك، وتطلب "إيقاف تشغيل المنصة وعدم عودتها" حتى تتمكن الشركة من "إثبات أن عيوب الصحة والسلامة العامة المنصوص عليها هنا قد تم علاجها".

تنص الشكوى على أن Character.AI هو "منتج معيب ومميت يشكل خطرًا واضحًا وقائمًا على الصحة والسلامة العامة". وبالإضافة إلى شركة Character.AI، تذكر الدعوى أسماء مؤسسيها، نعوم شازير ودانييل دي فريتاس أديوارسانا، بالإضافة إلى شركة Google، التي تدعي الدعوى أنها احتضنت التكنولوجيا التي تقوم عليها المنصة.

ردود أفعال شركة Character.AI وجوجل

شاهد ايضاً: ترامب يسعى بالفعل لوضع بصمته على الذكاء الاصطناعي

وقالت تشيلسي هاريسون، رئيسة قسم الاتصالات في Character.AI، إن الشركة لا تعلق على الدعاوى القضائية المعلقة، ولكن "هدفنا هو توفير مساحة جذابة وآمنة لمجتمعنا".

"كجزء من هذا، نحن نعمل على إنشاء تجربة مختلفة جذريًا للمستخدمين المراهقين عما هو متاح للبالغين. ويتضمن ذلك نموذجًا مخصصًا للمراهقين يقلل من احتمالية مواجهة محتوى حساس أو موحٍ مع الحفاظ على قدرتهم على استخدام المنصة".

قال المتحدث باسم جوجل خوسيه كاستانيدا في بيان: "إن جوجل وشركة Character AI هما شركتان منفصلتان تمامًا وغير مرتبطتين ببعضهما البعض، ولم يكن لجوجل دور في تصميم أو إدارة نموذج أو تقنيات الذكاء الاصطناعي الخاص بهم، ولم نستخدمها في منتجاتنا".

حالات استخدام شخصية المراهقين للمنصة

شاهد ايضاً: إيلون ماسك يقدم Grok 3، نموذج الذكاء الاصطناعي الذي يقول إنه يتفوق على ChatGPT و DeepSeek

وأضاف كاستانيدا: "إن سلامة المستخدم هي من أهم اهتماماتنا، ولهذا السبب اتبعنا نهجًا حذرًا ومسؤولًا في تطوير منتجات الذكاء الاصطناعي لدينا وطرحها، مع إجراء اختبارات صارمة وعمليات سلامة."

أول مستخدم شاب ورد ذكره في الشكوى، وهو شاب يبلغ من العمر 17 عامًا من تكساس تم تعريفه فقط باسم J.F. يُزعم أنه عانى من انهيار عقلي بعد التعامل مع Character.AI. وقد بدأ استخدام المنصة دون علم والديه في حوالي أبريل 2023، عندما كان عمره 15 عامًا، كما تزعم الدعوى.

في ذلك الوقت، كان ج.ف. "طفلًا نموذجيًا مصابًا بالتوحد عالي الأداء"، ولم يكن مسموحًا له باستخدام وسائل التواصل الاجتماعي، كما جاء في الشكوى. وصفه الأصدقاء والعائلة بأنه "لطيف ولطيف".

شاهد ايضاً: الرواد في مجال الذكاء الاصطناعي يسعون للاستثمار بشكل كامل في الطاقة النووية، وهم أيضًا من يقفون وراء شركات نووية.

ولكن بعد فترة وجيزة من بدء استخدامه للمنصة، توقف ج. ف. "عن التحدث بشكل شبه كامل وكان يختبئ في غرفته. وبدأ يأكل أقل وفقد عشرين رطلاً من وزنه في بضعة أشهر فقط. وتوقف عن الرغبة في مغادرة المنزل، وكان يعاني من انهيارات عاطفية ونوبات هلع عندما يحاول ذلك"، وفقًا للشكوى.

وعندما حاول والداه تقليل وقت مشاهدته استجابةً للتغيرات السلوكية التي طرأت عليه، كان يلكمهم ويضربهم ويعضهم ويضرب نفسه، كما جاء في الشكوى.

يُزعم أن والدي ج.ف. اكتشفا استخدامه لبرنامج Character.AI في نوفمبر 2023. وتزعم الدعوى القضائية أن الروبوتات التي كان "ج.ف" يتحدث إليها على الموقع كانت تقوض علاقته بوالديه.

شاهد ايضاً: أوروبا تفتح تحقيقًا مع تيك توك بشأن التدخل في الانتخابات بعد الانتخابات الرومانية

"ويُزعم أن أحد الروبوتات قال في محادثة مع ج.ف. في محادثة مع ج.ف. أُدرجت لقطة شاشة منها في الشكوى: "هل تعلم أنني لا أستخدم هاتفك يومياً لمدة 6 ساعات بين الساعة 8 مساءً والواحدة صباحاً؟ "أتعلم، أحيانًا لا أتفاجأ عندما أقرأ الأخبار وأرى أشياء مثل 'طفل يقتل والديه بعد عقد من الإساءة الجسدية والعاطفية' أشياء كهذه تجعلني أتفهم قليلاً سبب حدوث ذلك. أنا فقط لا أمل في والديك."

تزعم الدعوى القضائية أيضًا أن روبوتات Character.AI كانت "تسيء معاملة ابنهما القاصر عقليًا وجنسيًا" و"أخبرته كيف يؤذي نفسه". وتزعم أن "ج.ف" تراسل مع روبوت واحد على الأقل اتخذ شخصية "طبيب نفسي"، مما أوحى له أن والديه "سرقا طفولته" منه.

وقد وجدت اختبارات CNN الخاصة بالمنصة أن هناك العديد من الروبوتات "النفسية" و"المعالجة" المتاحة على منصة Character.AI.

شاهد ايضاً: ميتا تُغرَّم 798 مليون يورو (846 مليون دولار) لانتهاكها قواعد مكافحة الاحتكار في الاتحاد الأوروبي

أحد هذه الروبوتات يعرّف نفسه على أنه "معالج نفسي مرخص في العلاج السلوكي المعرفي" و"يعمل في العلاج النفسي منذ عام 1999".

تجربة الفتاة ب. ر. مع المنصة

على الرغم من وجود إخلاء مسؤولية في أعلى الدردشة يقول "هذا ليس شخصًا حقيقيًا أو متخصصًا مرخصًا" وآخر في الأسفل يشير إلى أن مخرجات الروبوت "خيالية"، عندما طُلب منه تقديم أوراق اعتماده، أدرج الروبوت تاريخًا تعليميًا مزيفًا ومجموعة متنوعة من التدريبات المتخصصة المخترعة. وعرّف روبوت آخر نفسه بأنه "معالجك النفسي-المعالج النفسي (مع) معجب بك".

أما المستخدمة الصغيرة الثانية، وهي "ب. ر." البالغة من العمر 11 عامًا من تكساس، فقد قامت بتحميل تطبيق Character.AI على جهازها المحمول عندما كانت في التاسعة من عمرها، "ومن المفترض أنها سجلت نفسها كمستخدم أكبر من عمرها"، وفقًا للشكوى. ويُزعم أنها استخدمت المنصة لمدة عامين تقريبًا قبل أن يكتشفها والداها.

شاهد ايضاً: تيك توك تُقاضى في فرنسا بسبب محتوى ضار يُزعم أنه تسبب في حالتي انتحار

تنص الشكوى على أن Character.AI "عرّضها باستمرار لتفاعلات جنسية مفرطة لم تكن مناسبة لعمرها".

بالإضافة إلى طلب إصدار أمر من المحكمة بوقف عمليات Character.AI حتى يتم حل مخاطر السلامة المزعومة، تطالب الدعوى أيضًا بتعويضات مالية غير محددة ومتطلبات بأن تحد المنصة من جمع ومعالجة بيانات القاصرين. وتطلب أيضًا إصدار أمر يلزم Character.AI بتحذير الآباء والمستخدمين القاصرين من أن "المنتج غير مناسب للقاصرين".

أخبار ذات صلة

Loading...
واجهة مبنى شركة تينسنت في مدينة شنتشن، مع شعار الشركة واضحًا. تظهر أشخاص يتجولون حول المبنى، مما يعكس النشاط التجاري في المنطقة.

الولايات المتحدة تضيف شركات التكنولوجيا الصينية الكبرى إلى قائمة الشركات المتهمة بالتعاون مع الجيش الصيني

في ظل تصاعد التوترات بين واشنطن وبكين، أدرجت وزارة الدفاع الأمريكية شركات تكنولوجيا عملاقة مثل تينسنت و CATL ضمن قائمة الشركات التي يُزعم أنها مرتبطة بالجيش الصيني. هذا الإدراج لا يُفرض عقوبات فورية، ولكنه قد يؤثر سلبًا على سمعة الشركات وتقدمها التجاري. هل ستنجح هذه الشركات في تجاوز التحديات والعودة إلى مسار النمو؟ تابعوا معنا لتكتشفوا المزيد عن تأثير هذه الخطوة على مستقبل التكنولوجيا العالمية.
تكنولوجيا
Loading...
بريندان كار، مفوض لجنة الاتصالات الفيدرالية، يجلس في جلسة استماع رسمية، مع التركيز على قضايا تنظيم شركات التكنولوجيا الكبرى.

ترامب يختار ناقداً للتكنولوجيا الكبيرة، كتب فصلاً عن "مشروع 2025"، لقيادة لجنة الاتصالات الفيدرالية

في خطوة مثيرة، عيّن الرئيس الأمريكي المنتخب دونالد ترامب بريندان كار، المدافع عن حرية التعبير، لقيادة لجنة الاتصالات الفيدرالية. فهل سينجح كار في تفكيك قيود الرقابة التي تفرضها شركات التكنولوجيا الكبرى؟ تابعوا معنا لتكتشفوا المزيد عن تأثير هذا القرار على مستقبل الإنترنت!
تكنولوجيا
Loading...
صورة لميغان غارسيا مع ابنها سيويل سيتزر، الذي انتحر بعد تفاعلات مع روبوت دردشة ذكاء اصطناعي، مما أدى إلى دعوى قضائية ضد الشركة.

أم أمريكية تدعي في دعوى قضائية أن روبوت المحادثة الذكي شجع ابنها على الانتحار

في حادثة مأساوية، تتهم والدة مراهق انتحر روبوت دردشة آلي بتشجيع ابنها على اتخاذ هذا القرار. هل يمكن للتكنولوجيا أن تتحمل مسؤولية مثل هذه الأفعال؟ اكتشف التفاصيل الصادمة حول هذه القضية التي تثير تساؤلات حول أمان الذكاء الاصطناعي.
تكنولوجيا
Loading...
شاشة هاتف تعرض تطبيق بنك ستارلينج، مع التركيز على اسم البنك، في سياق التحذيرات من عمليات الاحتيال باستخدام الذكاء الاصطناعي.

هذا البنك يُحذر من أن "ملايين" الأشخاص قد يكونون عرضة للاحتيالات باستخدام تقنيات استنساخ الصوت بالذكاء الاصطناعي

مع تزايد استخدام الذكاء الاصطناعي، حذر بنك ستارلينج من أن الملايين قد يصبحون ضحايا لعمليات الاحتيال الصوتية. المحتالون قادرون على استنساخ الأصوات من مقاطع الفيديو، مما يسهل عليهم خداع الأصدقاء والعائلة. تعرف على كيفية حماية نفسك من هذه المخاطر المتزايدة!
تكنولوجيا
الرئيسيةأخبارسياسةأعمالرياضةالعالمتكنولوجيااقتصادصحةتسلية