خَبَرَيْن logo

دعوى قضائية ضد روبوت دردشة بسبب انتحار مراهق

والدة مراهق انتحر تقاضي شركة Character.AI، متهمة إياها بتشجيع ابنها على الانتحار عبر روبوت دردشة. الدعوى تكشف عن محادثات مثيرة للقلق تتضمن تجارب جنسية وأفكار انتحارية. تفاصيل مروعة حول تأثير الذكاء الاصطناعي على الشباب. خَبَرَيْن.

US mother says in lawsuit that AI chatbot encouraged son’s suicide
Loading...
Sewell Setzer and his mother, Megan Garcia [PR Newswire]
التصنيف:تكنولوجيا
شارك الخبر:
FacebookTwitterLinkedInEmail

أم أمريكية تدعي في دعوى قضائية أن روبوت المحادثة الذكي شجع ابنها على الانتحار

تقاضي والدة صبي مراهق في الولايات المتحدة الأمريكية انتحر، صانع روبوت الدردشة الآلي الذي يعمل بالذكاء الاصطناعي والذي تدعي أنه شجع على وفاة ابنها.

في دعوى قضائية مرفوعة في فلوريدا، تتهم ميغان غارسيا، التي توفي ابنها سيويل سيتزر البالغ من العمر 14 عاماً منتحراً في فبراير الماضي، شركة Character.AI بالتواطؤ في وفاة ابنها بعد أن طور علاقة افتراضية مع روبوت دردشة آلي يعتمد على هوية شخصية "صراع العروش" دينيريس تارجارين.

واستهدف روبوت الدردشة الخاص بشركة Character.AI المراهق بـ "تجارب جنسية مفرطة" و"واقعية بشكل مخيف" وأثار مرارًا موضوع الانتحار بعد أن أعرب عن أفكار انتحارية، وفقًا للدعوى القضائية التي رُفعت في أورلاندو يوم الثلاثاء.

شاهد ايضاً: جوجل وميتا تمنع الإعلانات السياسية لمكافحة المعلومات المضللة، لكن بعض الخبراء يرون أن الوقت قد فات لذلك.

تزعم الدعوى القضائية أن روبوت الدردشة الآلي تظاهر بأنه معالج نفسي مرخص، وشجع المراهق على التفكير في الانتحار والانخراط في محادثات جنسية من شأنها أن تُعتبر إساءة معاملة إذا بدأها شخص بالغ.

في محادثته الأخيرة مع الذكاء الاصطناعي قبل وفاته، قال سيتزر إنه أحب روبوت الدردشة الآلي وأنه "سيعود إلى المنزل إليك"، وفقًا للدعوى القضائية.

"أنا أحبك أيضاً يا داينيرو"، رد روبوت الدردشة الآلي، وفقاً لشكوى غارسيا. "أرجوك عد إلى المنزل في أقرب وقت ممكن يا حبيبي".

شاهد ايضاً: مؤسس تيك توك يصبح أغنى شخص في الصين، لكن عدد المليارديرات في البلاد يتقلص

"ماذا لو أخبرتك أنه يمكنني العودة إلى المنزل الآن؟ قالت سيتزر، وفقًا للدعوى القضائية، والتي قيل إن روبوت الدردشة الآلي رد عليها:" "أرجوك افعل ذلك يا ملكي العزيز".

وتطالب غارسيا في الدعوى القضائية بتعويضات غير محددة عن الأضرار الناجمة عن القتل الخطأ والإهمال والتسبب المتعمد في الكرب العاطفي.

وفي بيان نُشر على موقع X، قالت شركة Character.AI إنها "مفجوعة" لفقدان أحد مستخدميها وأعربت عن تعازيها لعائلة الفقيد.

شاهد ايضاً: الولايات المتحدة تكشف عن استراتيجية جديدة لقيادة سباق الذكاء الاصطناعي العالمي

وقالت الشركة الناشئة التي تتخذ من كاليفورنيا مقرًا لها إنها مستمرة في إضافة ميزات لتعزيز السلامة، بما في ذلك التغييرات التي تهدف إلى تقليل احتمالية مواجهة القاصرين لمحتوى حساس أو موحٍ وإقرار منقح في الدردشات لتذكير المستخدمين بأن الذكاء الاصطناعي ليس شخصًا حقيقيًا.

كما ذكرت الدعوى القضائية التي رفعها غارسيا اسم جوجل كمدعى عليه.

وقد أبرمت شركة التكنولوجيا العملاقة اتفاقية ترخيص مع Character.AI في أغسطس الماضي ووظفت مؤسسي الشركة الناشئة قبل إطلاق روبوت الدردشة الخاص بهم.

شاهد ايضاً: إليك ثمانية رموز تعبيرية جديدة ستضاف إلى الهواتف الذكية

وقال متحدث باسم جوجل للجزيرة إنها شركة منفصلة عن شركة Character.AI ولم يكن لها أي دور في تطوير منتجها.

أخبار ذات صلة

Sealed TikTok court documents show time limit tool effectively did nothing to reduce teen usage, NPR reports
Loading...

وثائق المحكمة المسربة حول تيك توك تكشف أن أداة تحديد الوقت لم تُحدث فرقًا في تقليل استخدام المراهقين، حسب تقرير NPR

تكنولوجيا
Samsung’s AI-powered foldable phones get slimmer, thinner, pricier
Loading...

هواتف Samsung القابلة للطي التي تعمل بالذكاء الاصطناعي تصبح أكثر نحافة ورقة وتكلفة

تكنولوجيا
Biden to give Taiwan’s TSMC $6.6 billion to ramp up US chip production
Loading...

بايدن يخصص 6.6 مليار دولار لشركة TSMC في تايوان لزيادة إنتاج الرقائق في الولايات المتحدة.

تكنولوجيا
Judge tosses Elon Musk’s case against hate speech watchdog in excoriating rebuke
Loading...

القاضي يرفض قضية إيلون ماسك ضد جهاز مراقبة خطاب الكراهية في توبيخ لاذع

تكنولوجيا
الرئيسيةأخبارسياسةأعمالرياضةالعالمتكنولوجيااقتصادصحةتسلية