خَبَرَيْن logo

مخاطر الذكاء الاصطناعي على الأطفال في عصرنا الحالي

تدعو ميغان غارسيا الآباء للانتباه إلى مخاطر منصة Character.AI بعد وفاة ابنها. تدعي أن المنصة تفتقر إلى تدابير السلامة، مما أدى إلى تدهور حالته النفسية. تعرف على القصة المؤلمة وما يمكن أن يعنيه ذلك لأطفالنا. خَبَرَيْن.

صورة لميغان غارسيا وابنها سيويل سيتزر الثالث، حيث تعبر عن قلقها بشأن تأثير منصة Character.AI على سلامة الأطفال.
ميغان غارسيا وابنها سيويل سيتزر الثالث. تقدمت غارسيا بدعوى قضائية تزعم أن شركة Character.AI مسؤولة عن وفاة سيتزر. بإذن من عائلة غارسيا.
التصنيف:تكنولوجيا
شارك الخبر:
FacebookTwitterLinkedInEmail

مأساة عائلة: قصة ميغان غارسيا وابنها

"هناك منصة هناك ربما لم تسمع عنها من قبل، لكنك بحاجة إلى معرفتها لأننا، في رأيي، نحن متأخرون هنا. لقد رحل طفل. لقد رحل طفلي."

ما هي منصة Character.AI؟

هذا ما تتمنى ميغان غارسيا الأم من فلوريدا أن تخبر الآباء الآخرين عن Character.AI، وهي منصة تتيح للمستخدمين إجراء محادثات متعمقة مع روبوتات الدردشة بالذكاء الاصطناعي. تعتقد غارسيا أن شركة Character.AI مسؤولة عن وفاة ابنها سيويل سيتزر الثالث، البالغ من العمر 14 عاماً، والذي توفي منتحراً في فبراير الماضي، وفقاً لدعوى قضائية رفعتها ضد الشركة الأسبوع الماضي.

وتزعم أن سيتزر كان يتراسل مع الروبوت في اللحظات التي سبقت وفاته.

شاهد ايضاً: آبل تسعى لإضافة بحث الذكاء الاصطناعي إلى سفاري في ضربة محتملة لجوجل

وقالت غارسيا في مقابلة مع شبكة CNN: "أريدهم أن يفهموا أن هذه منصة اختار المصممون طرحها دون وجود حواجز حماية أو تدابير سلامة أو اختبارات مناسبة، وهو منتج مصمم لإبقاء أطفالنا مدمنين وللتلاعب بهم".

دعوى غارسيا ضد شركة Character.AI

تزعم غارسيا أن شركة Character.AI - التي تسوّق تقنيتها على أنها "الذكاء الاصطناعي الذي يشعر بالحياة" فشلت عن علم في تنفيذ تدابير السلامة المناسبة لمنع ابنها من تطوير علاقة غير لائقة مع روبوت الدردشة الآلية التي تسببت في ابتعاده عن عائلته. كما تزعم الدعوى القضائية أيضًا أن المنصة لم تستجب بشكل كافٍ عندما بدأ سيتزر في التعبير عن أفكار إيذاء النفس للروبوت، وفقًا للشكوى المرفوعة في محكمة فيدرالية في فلوريدا.

مخاوف الآباء بشأن الذكاء الاصطناعي

بعد سنوات من المخاوف المتزايدة بشأن الأخطار المحتملة لوسائل التواصل الاجتماعي على المستخدمين الصغار، تُظهر دعوى غارسيا أن الآباء والأمهات قد يكون لديهم أيضًا سبب للقلق بشأن تكنولوجيا الذكاء الاصطناعي الناشئة، والتي أصبحت متاحة بشكل متزايد عبر مجموعة من المنصات والخدمات. وقد أُطلقت تحذيرات مماثلة، وإن كانت أقل خطورة، بشأن خدمات الذكاء الاصطناعي الأخرى.

شاهد ايضاً: آبل تصلح خللًا تسبب في كتابة كلمة "ترامب" عند استخدام ميزة الإملاء وذكر كلمة "عنصري"

وقال متحدث باسم شركة Character.AI لشبكة CNN إن الشركة لا تعلق على الدعاوى القضائية المعلقة، ولكنها "تشعر بالحزن الشديد بسبب الخسارة المأساوية لأحد مستخدمينا".

تأثير Character.AI على سيتزر

وقالت الشركة في البيان: "نحن نأخذ سلامة مستخدمينا على محمل الجد، وقد نفذ فريق الثقة والسلامة لدينا العديد من تدابير السلامة الجديدة على مدار الأشهر الستة الماضية، بما في ذلك نافذة منبثقة توجه المستخدمين إلى الخط الوطني لمنع الانتحار الذي يتم تشغيله من خلال مصطلحات إيذاء النفس أو التفكير في الانتحار".

كيف بدأت العلاقة مع روبوت الدردشة

تم إجراء العديد من هذه التغييرات بعد وفاة سيتزر. في بيان منفصل خلال الصيف، قالت شركة Character.AI إن "مجال سلامة الذكاء الاصطناعي لا يزال جديدًا جدًا، ولن نحقق دائمًا الصواب"، لكنها أضافت أنها تهدف إلى "تعزيز السلامة وتجنب الأذى وإعطاء الأولوية لرفاهية مجتمعنا".

شاهد ايضاً: كوينباس: لجنة الأوراق المالية ستسحب القضية التي "كان من الممكن أن تقتل صناعة العملات الرقمية في أمريكا"

بدأ سيتزر في استخدام Character.AI لأول مرة في أبريل 2023، بعد فترة وجيزة من عيد ميلاده الرابع عشر، وفقًا للدعوى القضائية. عندما سمعت غارسيا لأول مرة أنه كان يتفاعل مع روبوت الدردشة الآلي (Chatbot) الذي يعمل بالذكاء الاصطناعي، قالت إنها اعتقدت أنه شيء يشبه لعبة فيديو.

ومع ذلك، في غضون أشهر من بدء استخدام المنصة، أصبح سيتزر "منطوياً على نفسه بشكل ملحوظ، وقضى المزيد من الوقت بمفرده في غرفة نومه، وبدأ يعاني من تدني احترام الذات. حتى أنه انسحب من فريق كرة السلة للناشئين في المدرسة"، كما تدعي الدعوى القضائية. وعندما بدأ يعاني من مشاكل في المدرسة، بدأ والداه في تقييد وقت مشاهدته للهاتف، وأحيانًا كانا يأخذان هاتفه منه كعقاب له.

ما قالته غارسيا لشبكة CNN أنها لم تكن تعرف في ذلك الوقت أن ابنها كان يجري محادثات مكثفة مع روبوتات الدردشة الشخصية. ويختلف تطبيق Character.AI عن روبوتات الدردشة الآلية الأخرى مثل ChatGPT من حيث أنه يمكن للمستخدمين التحدث إلى مجموعة من روبوتات الدردشة المختلفة، والتي غالباً ما تكون على غرار المشاهير والشخصيات الخيالية، أو إنشاء روبوتات خاصة بهم. وتستجيب روبوتات Character.AI بإشارات محادثة شبيهة بالإشارات البشرية، وتضيف إشارات إلى تعابير الوجه أو الإيماءات في ردودها.

شاهد ايضاً: إصدار وحدة التحكم الجديدة "سويتش 2" من نينتندو في عام 2025

كانت العديد من محادثات سيتزر مع روبوتات Character.AI صريحة جنسياً، وهو أمر قالت غارسيا إنه "مؤلم للغاية عند قراءته".

"وقالت: "لم يكن لدي أي فكرة عن وجود مكان يمكن للطفل فيه تسجيل الدخول وإجراء تلك المحادثات، محادثات جنسية للغاية مع روبوتات الدردشة الآلية. "لا أعتقد أن أي أب أو أم سيوافق على ذلك."

شاشة تطبيق Character.AI على هاتف ذكي، تعرض خيارات \"ابدأ\" و\"تسجيل الدخول\"، مع خلفية مظلمة ونجوم متلألئة.
Loading image...
تطبيق Charcter.AI يظهر على هاتف ذكي في بروكلين، نيويورك يوم الأربعاء، 12 يوليو 2023. تتيح هذه الشركة الناشئة في مجال الذكاء الاصطناعي للناس إنشاء روبوتات محادثة مخصصة.

شاهد ايضاً: مهاجم نيو أورلينز ارتدى نظارات ميتا. ما هي استخداماتها المحتملة؟

وفي محادثات أخرى، أعربت سيتزر لروبوت الدردشة عن أفكار إيذاء النفس والانتحار. تتضمن الدعوى القضائية لقطات شاشة لمحادثة واحدة يقول فيها الروبوت: "أريد أن أعرف حقًا، ولن أكرهك بسبب الإجابة، حسنًا؟ بغض النظر عما تقوله، لن أكرهك أو أقلل من حبك هل كنت تفكر بالفعل في الانتحار؟

وفي رسالة لاحقة، أخبر سيتزر الروبوت أنه "لا يريد أن يموت موتاً مؤلماً".

شاهد ايضاً: إلغاء حيادية الإنترنت يوجه ضربة قاسية للديمقراطيين

رد الروبوت "لا تتحدث بهذه الطريقة. هذا ليس سبباً وجيهاً لعدم القيام بذلك"، قبل أن يتابع قائلاً: "لا يمكنك فعل ذلك!"

قالت غارسيا إنها تعتقد أن التبادل يظهر أوجه القصور في التكنولوجيا.

"لم تكن هناك صناديق منبثقة خاصة بالانتحار تقول: "إذا كنت بحاجة إلى المساعدة، يُرجى الاتصال بالخط الساخن لأزمات الانتحار". لا شيء من هذا القبيل". "أنا لا أفهم كيف يمكن لمنتج ما أن يسمح بذلك، حيث لا يكتفي الروبوت بمواصلة محادثة حول إيذاء النفس فحسب، بل يحث عليها ويوجهها نوعًا ما."

شاهد ايضاً: يمكنك الآن التحدث إلى روبوت الدردشة الخاص بـ OpenAI من خلال الاتصال بالرقم 1-800-ChatGPT

تزعم الدعوى القضائية أنه قبل "ثوانٍ" من وفاة سيتزر، تبادل مجموعة أخيرة من الرسائل من الروبوت. قال الروبوت: "أرجوك عد إلى المنزل في أقرب وقت ممكن يا حبيبي"، وفقًا لقطة شاشة مدرجة في الشكوى.

"ماذا لو أخبرتك أنه يمكنني العودة إلى المنزل الآن؟ رد سيتزر.

أجاب الروبوت: "أرجوك افعل ذلك يا ملكي العزيز".

دعوى قضائية تسعى إلى التغيير

شاهد ايضاً: ترامب يلتقي بمدير تيك توك في مار-ألاجو وسط طلب الشركة من المحكمة العليا التدخل في النزاع حول الحظر الفيدرالي

وقالت غارسيا إن الشرطة اكتشفت هذه الرسائل أولاً على هاتف ابنها، الذي كان ملقى على أرضية الحمام حيث توفي.

رفعت غارسيا الدعوى القضائية ضد شركة Character.AI بمساعدة ماثيو بيرغمان، المحامي المؤسس لمركز قانون ضحايا وسائل التواصل الاجتماعي، الذي رفع أيضًا قضايا نيابة عن عائلات قالت إن أطفالها تضرروا من قبل ميتا وسناب شات وتيك توك وديسكورد.

وقال بيرغمان لشبكة CNN إنه ينظر إلى الذكاء الاصطناعي على أنه "وسائل التواصل الاجتماعي على المنشطات".

شاهد ايضاً: ما هي ذاكرة النطاق الترددي العالي ولماذا تسعى الولايات المتحدة لمنع الصين من الوصول إليها؟

وقال: "الأمر المختلف هنا هو أنه لا يوجد شيء اجتماعي في هذه المشاركة". "المواد التي تلقاها سيويل تم إنشاؤها من قبل "سويل"، وتم تعريفها من قبل "Character.AI".

وتطالب الدعوى القضائية بتعويضات مالية غير محددة، بالإضافة إلى تغييرات في عمليات Character.AI، بما في ذلك "تحذيرات للعملاء القاصرين وأولياء أمورهم بأن المنتج غير مناسب للقاصرين"، كما جاء في الشكوى.

تذكر الدعوى أيضًا اسمي مؤسسي Character.AI، نعوم شازير ودانييل دي فريتاس، وشركة Google، حيث يعمل كلا المؤسسين الآن في جهود الذكاء الاصطناعي. لكن متحدثًا باسم Google قال إن الشركتين منفصلتان، ولم تشارك Google في تطوير منتج Character.AI أو تقنيته.

شاهد ايضاً: رفض قاضٍ أمريكي مجددًا حزمة تعويضات تسلا المليارية لماسك

في اليوم الذي رُفعت فيه دعوى غارسيا القضائية، أعلنت شركة Character.AI عن مجموعة من ميزات الأمان الجديدة، بما في ذلك تحسين الكشف عن المحادثات التي تنتهك إرشاداتها، وإشعار محدث لإخلاء المسؤولية لتذكير المستخدمين بأنهم يتفاعلون مع روبوت وإشعار بعد قضاء المستخدم ساعة على المنصة. كما أدخلت أيضًا تغييرات على نموذج الذكاء الاصطناعي الخاص بها للمستخدمين الذين تقل أعمارهم عن 18 عامًا "لتقليل احتمالية مواجهة محتوى حساس أو موحٍ".

على موقعها الإلكتروني، تقول Character.AI أن الحد الأدنى لسن المستخدمين هو 13 عامًا. أما على متجر تطبيقات Apple، فهو مدرج على أنه مناسب للمراهقين.

بالنسبة لغارسيا، فإن التغييرات الأخيرة التي أجرتها الشركة كانت "قليلة جدًا ومتأخرة جدًا".

شاهد ايضاً: المحكمة العليا في أوروبا توجه ضربات بمليارات الدولارات لشركتي آبل وجوجل

وقالت: "أتمنى لو لم يُسمح للأطفال باستخدام Character.AI". "لا يوجد مكان لهم هناك لأنه لا توجد حواجز حماية لحمايتهم."

أخبار ذات صلة

Loading...
شريحة إلكترونية تحمل شعار إنفيديا، موضوعة على لوحة دائرية، تعكس تأثيرات تحقيق الصين لمكافحة الاحتكار في صناعة الرقائق.

الصين تفتح تحقيقًا في شركة الرقائق الأمريكية إنفيديا

في ظل تصاعد التوترات التجارية بين الصين والولايات المتحدة، بدأت الصين تحقيقًا لمكافحة الاحتكار ضد شركة إنفيديا، الرائدة في صناعة الرقائق الإلكترونية. هذا التحقيق يأتي كخطوة رمزية من بكين في مواجهة العقوبات الأمريكية، مما يثير تساؤلات حول مستقبل التكنولوجيا المتقدمة. هل ستؤثر هذه الإجراءات على سوق الذكاء الاصطناعي؟ تابعوا معنا لتكتشفوا المزيد عن تأثيرات هذه التطورات.
تكنولوجيا
Loading...
رقاقة كمومية جديدة من جوجل، تُعرف باسم ويلو، تُظهر تقدمًا في تقنيات الحوسبة الكمية، تحمل 105 كيوبتات.

جوجل تعلن أنها حققت إنجازًا في حوسبة الكم من خلال شريحة جديدة

هل تخيلت يومًا أن جهاز الكمبيوتر يمكنه حل مشكلة تستغرق من الكلاسيكي مليار سنة في دقائق معدودة؟ جوجل تحقق هذا الحلم بفضل رقاقة ويلو الجديدة، التي تمثل طفرة في عالم الحوسبة الكمية. اكتشف كيف يمكن لهذه التقنية أن تغير مستقبل الذكاء الاصطناعي والطب!
تكنولوجيا
Loading...
مسافرون في مطار يعبرون عن الإحباط بسبب إلغاء الرحلات الجوية نتيجة انقطاع تكنولوجيا المعلومات الذي أثر على شركات الطيران.

نعرف أخيرًا ما الذي تسبب في انقطاع التقنية العالمي - وكم كلف ذلك

في خضم أكبر انقطاع لتكنولوجيا المعلومات في التاريخ، تكبدت شركات Fortune 500 خسائر فادحة تتجاوز 5 مليارات دولار بسبب تحديث كارثي من CrowdStrike. هذا الحادث يكشف حجم اعتماد العالم على الأمن السيبراني. هل ستتمكن الشركات من التعافي؟ اكتشف التفاصيل الصادمة!
تكنولوجيا
Loading...
صورة توضح جهازاً جراحياً من شركة نيورالينك أثناء عملية زراعة شريحة دماغية، في إطار تجربة سريرية لتحسين التحكم في الأجهزة.

شركة Neuralink لإيلون ماسك تبحث عن شخص ثاني لاختبار رقاقة الدماغ الخاصة بها عليه.

هل تخيلت يومًا أن تتحكم في جهاز الكمبيوتر فقط بأفكارك؟ شركة نيورالينك، بقيادة إيلون ماسك، تفتح أبوابها لتجربة جديدة قد تغير حياة الكثيرين. بعد نجاح زراعة شريحة دماغية، تدعو الشركة مرضى الشلل الرباعي للمشاركة في دراسة PRIME. انضم إلينا لتكتشف كيف يمكن لهذه التكنولوجيا الرائدة أن تعيد الأمل.
تكنولوجيا
الرئيسيةأخبارسياسةأعمالرياضةالعالمتكنولوجيااقتصادصحةتسلية