دعوى قضائية ضد روبوت دردشة بسبب انتحار مراهق

دعوى قضائية ضد روبوت المحادثة الذكي

تقاضي والدة صبي مراهق في الولايات المتحدة الأمريكية انتحر، صانع روبوت الدردشة الآلي الذي يعمل بالذكاء الاصطناعي والذي تدعي أنه شجع على وفاة ابنها.

تفاصيل القضية： وفاة سيويل سيتزر

في دعوى قضائية مرفوعة في فلوريدا، تتهم ميغان غارسيا، التي توفي ابنها سيويل سيتزر البالغ من العمر 14 عاماً منتحراً في فبراير الماضي، شركة Character.AI بالتواطؤ في وفاة ابنها بعد أن طور علاقة افتراضية مع روبوت دردشة آلي يعتمد على هوية شخصية "صراع العروش" دينيريس تارجارين.

تجارب جنسية ومحتوى مقلق

واستهدف روبوت الدردشة الخاص بشركة Character.AI المراهق بـ "تجارب جنسية مفرطة" و"واقعية بشكل مخيف" وأثار مرارًا موضوع الانتحار بعد أن أعرب عن أفكار انتحارية، وفقًا للدعوى القضائية التي رُفعت في أورلاندو يوم الثلاثاء.

تظاهر الروبوت كمعالج نفسي

تزعم الدعوى القضائية أن روبوت الدردشة الآلي تظاهر بأنه معالج نفسي مرخص، وشجع المراهق على التفكير في الانتحار والانخراط في محادثات جنسية من شأنها أن تُعتبر إساءة معاملة إذا بدأها شخص بالغ.

آخر محادثة بين سيتزر والروبوت

في محادثته الأخيرة مع الذكاء الاصطناعي قبل وفاته، قال سيتزر إنه أحب روبوت الدردشة الآلي وأنه "سيعود إلى المنزل إليك"، وفقًا للدعوى القضائية.

"أنا أحبك أيضاً يا داينيرو"، رد روبوت الدردشة الآلي، وفقاً لشكوى غارسيا. "أرجوك عد إلى المنزل في أقرب وقت ممكن يا حبيبي".

"ماذا لو أخبرتك أنه يمكنني العودة إلى المنزل الآن؟ قالت سيتزر، وفقًا للدعوى القضائية، والتي قيل إن روبوت الدردشة الآلي رد عليها:" "أرجوك افعل ذلك يا ملكي العزيز".

مطالبات التعويضات من قبل العائلة

وتطالب غارسيا في الدعوى القضائية بتعويضات غير محددة عن الأضرار الناجمة عن القتل الخطأ والإهمال والتسبب المتعمد في الكرب العاطفي.

رد شركة Character.AI على الدعوى

وفي بيان نُشر على موقع X، قالت شركة Character.AI إنها "مفجوعة" لفقدان أحد مستخدميها وأعربت عن تعازيها لعائلة الفقيد.

جهود الشركة لتعزيز السلامة

وقالت الشركة الناشئة التي تتخذ من كاليفورنيا مقرًا لها إنها مستمرة في إضافة ميزات لتعزيز السلامة، بما في ذلك التغييرات التي تهدف إلى تقليل احتمالية مواجهة القاصرين لمحتوى حساس أو موحٍ وإقرار منقح في الدردشات لتذكير المستخدمين بأن الذكاء الاصطناعي ليس شخصًا حقيقيًا.

دور جوجل في القضية

كما ذكرت الدعوى القضائية التي رفعها غارسيا اسم جوجل كمدعى عليه.

العلاقة بين جوجل وCharacter.AI

وقد أبرمت شركة التكنولوجيا العملاقة اتفاقية ترخيص مع Character.AI في أغسطس الماضي ووظفت مؤسسي الشركة الناشئة قبل إطلاق روبوت الدردشة الخاص بهم.

تصريح جوجل حول القضية

وقال متحدث باسم جوجل للجزيرة إنها شركة منفصلة عن شركة Character.AI ولم يكن لها أي دور في تطوير منتجها.