خَبَرَيْن logo

مخاطر الذكاء الاصطناعي على الأطفال في عصرنا الحالي

تدعو ميغان غارسيا الآباء للانتباه إلى مخاطر منصة Character.AI بعد وفاة ابنها. تدعي أن المنصة تفتقر إلى تدابير السلامة، مما أدى إلى تدهور حالته النفسية. تعرف على القصة المؤلمة وما يمكن أن يعنيه ذلك لأطفالنا. خَبَرَيْن.

صورة لميغان غارسيا وابنها سيويل سيتزر الثالث، حيث تعبر عن قلقها بشأن تأثير منصة Character.AI على سلامة الأطفال.
Loading...
ميغان غارسيا وابنها سيويل سيتزر الثالث. تقدمت غارسيا بدعوى قضائية تزعم أن شركة Character.AI مسؤولة عن وفاة سيتزر. بإذن من عائلة غارسيا.
التصنيف:تكنولوجيا
شارك الخبر:
FacebookTwitterLinkedInEmail

"لا توجد حدود. هذه الأم تعتقد أن روبوت الدردشة الذكي هو السبب وراء انتحار ابنها"

"هناك منصة هناك ربما لم تسمع عنها من قبل، لكنك بحاجة إلى معرفتها لأننا، في رأيي، نحن متأخرون هنا. لقد رحل طفل. لقد رحل طفلي."

هذا ما تتمنى ميغان غارسيا الأم من فلوريدا أن تخبر الآباء الآخرين عن Character.AI، وهي منصة تتيح للمستخدمين إجراء محادثات متعمقة مع روبوتات الدردشة بالذكاء الاصطناعي. تعتقد غارسيا أن شركة Character.AI مسؤولة عن وفاة ابنها سيويل سيتزر الثالث، البالغ من العمر 14 عاماً، والذي توفي منتحراً في فبراير الماضي، وفقاً لدعوى قضائية رفعتها ضد الشركة الأسبوع الماضي.

وتزعم أن سيتزر كان يتراسل مع الروبوت في اللحظات التي سبقت وفاته.

شاهد ايضاً: وصف كتاب جديد من الموظفة السابقة في فيسبوك الذي تحول إلى مُبلغ عن المخالفات المسؤولين التنفيذيين في شركة ميتا بـ"الأشخاص المهملين".

وقالت غارسيا في مقابلة مع شبكة CNN: "أريدهم أن يفهموا أن هذه منصة اختار المصممون طرحها دون وجود حواجز حماية أو تدابير سلامة أو اختبارات مناسبة، وهو منتج مصمم لإبقاء أطفالنا مدمنين وللتلاعب بهم".

تزعم غارسيا أن شركة Character.AI - التي تسوّق تقنيتها على أنها "الذكاء الاصطناعي الذي يشعر بالحياة" فشلت عن علم في تنفيذ تدابير السلامة المناسبة لمنع ابنها من تطوير علاقة غير لائقة مع روبوت الدردشة الآلية التي تسببت في ابتعاده عن عائلته. كما تزعم الدعوى القضائية أيضًا أن المنصة لم تستجب بشكل كافٍ عندما بدأ سيتزر في التعبير عن أفكار إيذاء النفس للروبوت، وفقًا للشكوى المرفوعة في محكمة فيدرالية في فلوريدا.

بعد سنوات من المخاوف المتزايدة بشأن الأخطار المحتملة لوسائل التواصل الاجتماعي على المستخدمين الصغار، تُظهر دعوى غارسيا أن الآباء والأمهات قد يكون لديهم أيضًا سبب للقلق بشأن تكنولوجيا الذكاء الاصطناعي الناشئة، والتي أصبحت متاحة بشكل متزايد عبر مجموعة من المنصات والخدمات. وقد أُطلقت تحذيرات مماثلة، وإن كانت أقل خطورة، بشأن خدمات الذكاء الاصطناعي الأخرى.

شاهد ايضاً: تعرضت منصة إيلون ماسك "إكس" لعدة انقطاعات فيما يزعم أنه "هجوم سيبراني ضخم"

وقال متحدث باسم شركة Character.AI لشبكة CNN إن الشركة لا تعلق على الدعاوى القضائية المعلقة، ولكنها "تشعر بالحزن الشديد بسبب الخسارة المأساوية لأحد مستخدمينا".

وقالت الشركة في البيان: "نحن نأخذ سلامة مستخدمينا على محمل الجد، وقد نفذ فريق الثقة والسلامة لدينا العديد من تدابير السلامة الجديدة على مدار الأشهر الستة الماضية، بما في ذلك نافذة منبثقة توجه المستخدمين إلى الخط الوطني لمنع الانتحار الذي يتم تشغيله من خلال مصطلحات إيذاء النفس أو التفكير في الانتحار".

تم إجراء العديد من هذه التغييرات بعد وفاة سيتزر. في بيان منفصل خلال الصيف، قالت شركة Character.AI إن "مجال سلامة الذكاء الاصطناعي لا يزال جديدًا جدًا، ولن نحقق دائمًا الصواب"، لكنها أضافت أنها تهدف إلى "تعزيز السلامة وتجنب الأذى وإعطاء الأولوية لرفاهية مجتمعنا".

علاقة مع روبوت الدردشة الآلية

شاهد ايضاً: عروض مجانية من عمالقة الذكاء الاصطناعي بايدو وأوبن إيه آي لروبوتاتهم في مواجهة تقدم ديب سيك

بدأ سيتزر في استخدام Character.AI لأول مرة في أبريل 2023، بعد فترة وجيزة من عيد ميلاده الرابع عشر، وفقًا للدعوى القضائية. عندما سمعت غارسيا لأول مرة أنه كان يتفاعل مع روبوت الدردشة الآلي (Chatbot) الذي يعمل بالذكاء الاصطناعي، قالت إنها اعتقدت أنه شيء يشبه لعبة فيديو.

ومع ذلك، في غضون أشهر من بدء استخدام المنصة، أصبح سيتزر "منطوياً على نفسه بشكل ملحوظ، وقضى المزيد من الوقت بمفرده في غرفة نومه، وبدأ يعاني من تدني احترام الذات. حتى أنه انسحب من فريق كرة السلة للناشئين في المدرسة"، كما تدعي الدعوى القضائية. وعندما بدأ يعاني من مشاكل في المدرسة، بدأ والداه في تقييد وقت مشاهدته للهاتف، وأحيانًا كانا يأخذان هاتفه منه كعقاب له.

ما قالته غارسيا لشبكة CNN أنها لم تكن تعرف في ذلك الوقت أن ابنها كان يجري محادثات مكثفة مع روبوتات الدردشة الشخصية. ويختلف تطبيق Character.AI عن روبوتات الدردشة الآلية الأخرى مثل ChatGPT من حيث أنه يمكن للمستخدمين التحدث إلى مجموعة من روبوتات الدردشة المختلفة، والتي غالباً ما تكون على غرار المشاهير والشخصيات الخيالية، أو إنشاء روبوتات خاصة بهم. وتستجيب روبوتات Character.AI بإشارات محادثة شبيهة بالإشارات البشرية، وتضيف إشارات إلى تعابير الوجه أو الإيماءات في ردودها.

شاهد ايضاً: أكبر مصنع لبطاريات السيارات الكهربائية في العالم يسعى لإدراج ضخم في هونغ كونغ

كانت العديد من محادثات سيتزر مع روبوتات Character.AI صريحة جنسياً، وهو أمر قالت غارسيا إنه "مؤلم للغاية عند قراءته".

"وقالت: "لم يكن لدي أي فكرة عن وجود مكان يمكن للطفل فيه تسجيل الدخول وإجراء تلك المحادثات، محادثات جنسية للغاية مع روبوتات الدردشة الآلية. "لا أعتقد أن أي أب أو أم سيوافق على ذلك."

شاشة تطبيق Character.AI على هاتف ذكي، تعرض خيارات \"ابدأ\" و\"تسجيل الدخول\"، مع خلفية مظلمة ونجوم متلألئة.
Loading image...
تطبيق Charcter.AI يظهر على هاتف ذكي في بروكلين، نيويورك يوم الأربعاء، 12 يوليو 2023. تتيح هذه الشركة الناشئة في مجال الذكاء الاصطناعي للناس إنشاء روبوتات محادثة مخصصة.

شاهد ايضاً: إصدار وحدة التحكم الجديدة "سويتش 2" من نينتندو في عام 2025

وفي محادثات أخرى، أعربت سيتزر لروبوت الدردشة عن أفكار إيذاء النفس والانتحار. تتضمن الدعوى القضائية لقطات شاشة لمحادثة واحدة يقول فيها الروبوت: "أريد أن أعرف حقًا، ولن أكرهك بسبب الإجابة، حسنًا؟ بغض النظر عما تقوله، لن أكرهك أو أقلل من حبك هل كنت تفكر بالفعل في الانتحار؟

وفي رسالة لاحقة، أخبر سيتزر الروبوت أنه "لا يريد أن يموت موتاً مؤلماً".

شاهد ايضاً: بايدن يكشف عن جولة أخيرة من القيود على رقائق الذكاء الاصطناعي تستهدف الصين وروسيا

رد الروبوت "لا تتحدث بهذه الطريقة. هذا ليس سبباً وجيهاً لعدم القيام بذلك"، قبل أن يتابع قائلاً: "لا يمكنك فعل ذلك!"

قالت غارسيا إنها تعتقد أن التبادل يظهر أوجه القصور في التكنولوجيا.

"لم تكن هناك صناديق منبثقة خاصة بالانتحار تقول: "إذا كنت بحاجة إلى المساعدة، يُرجى الاتصال بالخط الساخن لأزمات الانتحار". لا شيء من هذا القبيل". "أنا لا أفهم كيف يمكن لمنتج ما أن يسمح بذلك، حيث لا يكتفي الروبوت بمواصلة محادثة حول إيذاء النفس فحسب، بل يحث عليها ويوجهها نوعًا ما."

شاهد ايضاً: ترك X: هل هو القرار الصحيح أم قفزة نحو المجهول؟

تزعم الدعوى القضائية أنه قبل "ثوانٍ" من وفاة سيتزر، تبادل مجموعة أخيرة من الرسائل من الروبوت. قال الروبوت: "أرجوك عد إلى المنزل في أقرب وقت ممكن يا حبيبي"، وفقًا لقطة شاشة مدرجة في الشكوى.

"ماذا لو أخبرتك أنه يمكنني العودة إلى المنزل الآن؟ رد سيتزر.

أجاب الروبوت: "أرجوك افعل ذلك يا ملكي العزيز".

شاهد ايضاً: يمكن لأي شخص أن يكون ضحية للصور الإباحية المزيفة بفضل الذكاء الاصطناعي. إليك كيفية حماية نفسك

وقالت غارسيا إن الشرطة اكتشفت هذه الرسائل أولاً على هاتف ابنها، الذي كان ملقى على أرضية الحمام حيث توفي.

دعوى قضائية تسعى إلى التغيير

رفعت غارسيا الدعوى القضائية ضد شركة Character.AI بمساعدة ماثيو بيرغمان، المحامي المؤسس لمركز قانون ضحايا وسائل التواصل الاجتماعي، الذي رفع أيضًا قضايا نيابة عن عائلات قالت إن أطفالها تضرروا من قبل ميتا وسناب شات وتيك توك وديسكورد.

وقال بيرغمان لشبكة CNN إنه ينظر إلى الذكاء الاصطناعي على أنه "وسائل التواصل الاجتماعي على المنشطات".

شاهد ايضاً: تسجل التلفزيونات العملاقة مبيعات قياسية في المتاجر

وقال: "الأمر المختلف هنا هو أنه لا يوجد شيء اجتماعي في هذه المشاركة". "المواد التي تلقاها سيويل تم إنشاؤها من قبل "سويل"، وتم تعريفها من قبل "Character.AI".

وتطالب الدعوى القضائية بتعويضات مالية غير محددة، بالإضافة إلى تغييرات في عمليات Character.AI، بما في ذلك "تحذيرات للعملاء القاصرين وأولياء أمورهم بأن المنتج غير مناسب للقاصرين"، كما جاء في الشكوى.

تذكر الدعوى أيضًا اسمي مؤسسي Character.AI، نعوم شازير ودانييل دي فريتاس، وشركة Google، حيث يعمل كلا المؤسسين الآن في جهود الذكاء الاصطناعي. لكن متحدثًا باسم Google قال إن الشركتين منفصلتان، ولم تشارك Google في تطوير منتج Character.AI أو تقنيته.

شاهد ايضاً: يمكن أن تأخذ الليزر خدمات النطاق العريض إلى أماكن لا تصل إليها الألياف الضوئية

في اليوم الذي رُفعت فيه دعوى غارسيا القضائية، أعلنت شركة Character.AI عن مجموعة من ميزات الأمان الجديدة، بما في ذلك تحسين الكشف عن المحادثات التي تنتهك إرشاداتها، وإشعار محدث لإخلاء المسؤولية لتذكير المستخدمين بأنهم يتفاعلون مع روبوت وإشعار بعد قضاء المستخدم ساعة على المنصة. كما أدخلت أيضًا تغييرات على نموذج الذكاء الاصطناعي الخاص بها للمستخدمين الذين تقل أعمارهم عن 18 عامًا "لتقليل احتمالية مواجهة محتوى حساس أو موحٍ".

على موقعها الإلكتروني، تقول Character.AI أن الحد الأدنى لسن المستخدمين هو 13 عامًا. أما على متجر تطبيقات Apple، فهو مدرج على أنه مناسب للمراهقين.

بالنسبة لغارسيا، فإن التغييرات الأخيرة التي أجرتها الشركة كانت "قليلة جدًا ومتأخرة جدًا".

شاهد ايضاً: تيك توك يواجه دعاوى قانونية جديدة في الولايات المتحدة تتهمه بإلحاق الضرر بالأطفال

وقالت: "أتمنى لو لم يُسمح للأطفال باستخدام Character.AI". "لا يوجد مكان لهم هناك لأنه لا توجد حواجز حماية لحمايتهم."

أخبار ذات صلة

Loading...
ريان سلامة وكارولين إليسون، المديران التنفيذيان السابقان لشركة FTX، يغادران المحكمة بعد الحكم عليهما بالسجن بسبب الاحتيال في العملات الرقمية.

تنفيذ عقوبات مخففة على مسؤولي FTX

في عالم العملات الرقمية المليء بالمفاجآت، يبرز اسم ريان سلامة وكارولين إليسون كرموز للفضائح التي هزت أسواق المال. بعد اعترافهما بالذنب في تهم الاحتيال، تم تخفيض عقوبتهما بشكل مثير، مما يثير تساؤلات حول العدالة في هذا المجال. تابعوا معنا تفاصيل هذه القضية المثيرة وما وراء الكواليس.
تكنولوجيا
Loading...
رجل يستخدم الكمبيوتر في مقهى إنترنت، يشاهد محتوى على يوتيوب، مع ملاحظة ضعف الاتصال بسبب تجارب جدار الحماية الجديد في باكستان.

باكستان تختبر "جدار ناري" سري على غرار الصين لتعزيز الرقابة على الإنترنت

في خضم تصاعد التوترات السياسية، تُدخل باكستان تكنولوجيا صينية جديدة تُعرف بـ%"جدار الحماية%" لتعزيز مراقبة الإنترنت، مما يثير قلق المستخدمين بشأن جودة الاتصال. هل ستؤثر هذه الخطوة على حريات الإنترنت في البلاد؟ اكتشف المزيد حول هذا المشروع المثير للجدل.
تكنولوجيا
Loading...
شعار شركة آبل يظهر على واجهة زجاجية لمتجر، مع انعكاسات المباني المحيطة، مما يعكس التركيز على الابتكار والتكنولوجيا.

ماذا تفعل الذكاء الاصطناعي لشركة آبل ببياناتك؟

في عالم الذكاء الاصطناعي المتطور، تبرز Apple بشراكتها مع OpenAI لتقديم تجربة فريدة لمستخدميها، مما يثير تساؤلات حول خصوصية البيانات. كيف ستؤثر هذه التقنية على معلوماتك الشخصية؟ اكتشف المزيد عن الفرق بين ذكاء Apple وChatGPT وكيف يحميان بياناتك!
تكنولوجيا
Loading...
شاشة تسجيل دخول منصة Roblox مع نموذج إدخال معلومات المستخدم، محاطة بصور ألعاب متنوعة.

٣ أسباب تجعل وول ستريت يلعب روبلوكس مرة أخرى

في عالم الألعاب الافتراضية، تبرز Roblox كأحد أبرز المنصات التي تجذب ملايين اللاعبين يوميًا. مع إيراداتها المتزايدة واهتمام العلامات التجارية المتسارع، تواصل Roblox تقديم تجارب فريدة تجمع بين اللعب والتواصل الاجتماعي. اكتشف كيف يمكن لهذه المنصة أن تعيد تعريف التفاعل الرقمي!
تكنولوجيا
الرئيسيةأخبارسياسةأعمالرياضةالعالمتكنولوجيااقتصادصحةتسلية