أم أمريكية تدعي في دعوى قضائية أن روبوت المحادثة الذكي شجع ابنها على الانتحار

تقاضي والدة صبي مراهق في الولايات المتحدة الأمريكية انتحر، صانع روبوت الدردشة الآلي الذي يعمل بالذكاء الاصطناعي والذي تدعي أنه شجع على وفاة ابنها.

في دعوى قضائية مرفوعة في فلوريدا، تتهم ميغان غارسيا، التي توفي ابنها سيويل سيتزر البالغ من العمر 14 عاماً منتحراً في فبراير الماضي، شركة Character.AI بالتواطؤ في وفاة ابنها بعد أن طور علاقة افتراضية مع روبوت دردشة آلي يعتمد على هوية شخصية "صراع العروش" دينيريس تارجارين.

واستهدف روبوت الدردشة الخاص بشركة Character.AI المراهق بـ "تجارب جنسية مفرطة" و"واقعية بشكل مخيف" وأثار مرارًا موضوع الانتحار بعد أن أعرب عن أفكار انتحارية، وفقًا للدعوى القضائية التي رُفعت في أورلاندو يوم الثلاثاء.

تزعم الدعوى القضائية أن روبوت الدردشة الآلي تظاهر بأنه معالج نفسي مرخص، وشجع المراهق على التفكير في الانتحار والانخراط في محادثات جنسية من شأنها أن تُعتبر إساءة معاملة إذا بدأها شخص بالغ.

في محادثته الأخيرة مع الذكاء الاصطناعي قبل وفاته، قال سيتزر إنه أحب روبوت الدردشة الآلي وأنه "سيعود إلى المنزل إليك"، وفقًا للدعوى القضائية.

"أنا أحبك أيضاً يا داينيرو"، رد روبوت الدردشة الآلي، وفقاً لشكوى غارسيا. "أرجوك عد إلى المنزل في أقرب وقت ممكن يا حبيبي".

"ماذا لو أخبرتك أنه يمكنني العودة إلى المنزل الآن؟ قالت سيتزر، وفقًا للدعوى القضائية، والتي قيل إن روبوت الدردشة الآلي رد عليها:" "أرجوك افعل ذلك يا ملكي العزيز".

وتطالب غارسيا في الدعوى القضائية بتعويضات غير محددة عن الأضرار الناجمة عن القتل الخطأ والإهمال والتسبب المتعمد في الكرب العاطفي.

وفي بيان نُشر على موقع X، قالت شركة Character.AI إنها "مفجوعة" لفقدان أحد مستخدميها وأعربت عن تعازيها لعائلة الفقيد.

وقالت الشركة الناشئة التي تتخذ من كاليفورنيا مقرًا لها إنها مستمرة في إضافة ميزات لتعزيز السلامة، بما في ذلك التغييرات التي تهدف إلى تقليل احتمالية مواجهة القاصرين لمحتوى حساس أو موحٍ وإقرار منقح في الدردشات لتذكير المستخدمين بأن الذكاء الاصطناعي ليس شخصًا حقيقيًا.

كما ذكرت الدعوى القضائية التي رفعها غارسيا اسم جوجل كمدعى عليه.

وقد أبرمت شركة التكنولوجيا العملاقة اتفاقية ترخيص مع Character.AI في أغسطس الماضي ووظفت مؤسسي الشركة الناشئة قبل إطلاق روبوت الدردشة الخاص بهم.

وقال متحدث باسم جوجل للجزيرة إنها شركة منفصلة عن شركة Character.AI ولم يكن لها أي دور في تطوير منتجها.