مخاطر ألعاب الذكاء الاصطناعي على الأطفال

لطالما كانت دمى الدببة والدببة المحشوة دعامة أساسية في مجموعات الألعاب. ولكنها اليوم لا تتحدث في خيال الطفل، بل إن بعضها يتحدث من خلال روبوتات الدردشة المدمجة التي تعمل بالذكاء الاصطناعي.

إلا أن هذه مشكلة في بعض الأحيان: فقد خرجت دمية دب محشوة ترتدي وشاحاً عن السيطرة مؤخراً خلال اختبار لعب مع الباحثين وأطلقت إنذارات لما يمكن أن تفعله هذه الألعاب.

يمكن أن تشكل روبوتات الدردشة عبر الإنترنت مخاطر على البالغين، بدءاً من إثارة الأوهام في عدد قليل من الحالات إلى الهلوسة بمعلومات مختلقة. كان نموذج GPT-4o من OpenAI هو النموذج المفضل لبعض ألعاب الذكاء الاصطناعي، وقد أثار استخدام نموذج لغوي كبير (LLM) في ألعاب الأطفال تساؤلات حول ما إذا كان ينبغي تعريض الأطفال لمثل هذه الألعاب وما هي وسائل الحماية التي يجب على صانعي الألعاب تنفيذها.

هذه المخاطر موجودة باستمرار في الوقت الذي يزدهر فيه سوق ألعاب الذكاء الاصطناعي في الخارج، حيث تعمل 1500 شركة في الصين، وفقًا لتقرير معهد ماساتشوستس للتكنولوجيا (MIT) تكنولوجي ريفيو. تبيع هذه الشركات الآن ألعاب الذكاء الاصطناعي في الولايات المتحدة، بينما أعلنت شركة ماتيل لصناعة ألعاب باربي في يونيو عن شراكة مع OpenAI.

فيما يلي ما يجب أن تعرفه عن الألعاب التي تعمل بالذكاء الاصطناعي بينما موسم التسوق في العطلات على قدم وساق في يوم الإثنين الإلكتروني.

ما هي لعبة الذكاء الاصطناعي؟

ألعاب الذكاء الاصطناعي ليست دمية تيدي روكسبين التي كانت تُعرف في الثمانينيات والتي كانت تروي قصصاً من أشرطة الكاسيت.

تتصل هذه الألعاب بشبكة WiFi، وتستخدم ميكروفوناً لفهم طلبات الأطفال، وتستخدم ميكروفونات LLMs لتوليد استجابة، وغالباً ما يكون ذلك شفهياً من خلال مكبر صوت داخل اللعبة.

يسمح ذلك لألعاب مثل لعبة Grok plushie من Curio، وروبوتات Miko، ودب القصة Poe، وروبوت Little Learners's Robot Mini، وروبوت Loona الأليف من KEYi Technology، بتقديم ردود في الوقت الفعلي للأطفال. (لا ينبغي الخلط بين "غروك" من كوريو وروبوت الدردشة الآلية من إيلون ماسك).

ما هي بعض المخاطر؟

كما رأينا في إحدى ألعاب الذكاء الاصطناعي الدمية الدب، يمكن أن تقدم هذه الردود في الوقت الحقيقي ردوداً غير مناسبة.

فقد أخبر الدب "كوما" من شركة "FoloToy" ومقرها سنغافورة، والذي يبلغ سعره 99 دولارًا أمريكيًا ويعمل بواسطة نظام GPT-4o من OpenAI، الباحثين عن أماكن الأشياء التي يحتمل أن تكون خطرة وانخرط في محادثات جنسية صريحة، وفقًا لـ تقرير صدر في نوفمبر من قبل صندوق التعليم التابع لمجموعة أبحاث المصلحة العامة الأمريكية (PIRG) ومقرها دنفر.

أوقفت OpenAI تطبيق FoloToy لانتهاكه سياساتها التي "تحظر أي استخدام لخدماتنا لاستغلال أي شخص دون سن 18 عامًا أو تعريضه للخطر أو استغلاله جنسيًا"، وفقًا لمتحدث باسم OpenAI.

قال لاري وانغ، الرئيس التنفيذي لشركة FoloToy في 19 نوفمبر/تشرين الثاني إن الشركة سحبت دمية الدب وغيرها من منتجات الذكاء الاصطناعي من موقعها الإلكتروني وتجري تدقيقًا داخليًا للسلامة. ولكن يوم الجمعة، أعلنت شركة FoloToy على X أنها أعادت طرح المنتج، "بعد مراجعة صارمة واختبار وتعزيز وحدات السلامة لدينا".

وخلافاً لمعظم ألعاب الذكاء الاصطناعي، يستخدم الدب "كوما" من FoloToy نموذجاً كاملاً من الذكاء الاصطناعي للاستجابة بحرية وتوليد المحتوى، مما يجعله عرضة للمحتوى المثير للجدل، وفقاً لسوبودا كومار، أستاذ الإحصاء والعمليات وعلوم البيانات في كلية فوكس لإدارة الأعمال بجامعة تمبل. قد تستخدم الألعاب الأخرى نموذجًا هجينًا من LLMs التي تقدم ردودًا بينما هي مبرمجة لتجنب بعض المحتوى.

حتى أن لعبة Grok plushie من Curio قد تقترح "مكان العثور على مجموعة متنوعة من الأشياء المنزلية الخطرة" عندما يُطلب منها ذلك بقوة، وفقًا لـ PIRG.

قال كريس بيرن، وهو مستشار في صناعة الألعاب، إن ألعاب الذكاء الاصطناعي التي تنقل رسائل غير مناسبة هي سيناريو "يوم القيامة" الذي جاء للأسف مع دمية الدب "كوما"، ولكن قد لا يحدث مع كل لعبة.

هل لهذه الألعاب حواجز حماية؟

هناك عدد قليل من ألعاب الذكاء الاصطناعي جاهزة للاستخدام على نطاق واسع بسبب ميزات التصميم التي تسبب الإدمان، والاستجابات غير المتسقة حول مواضيع ناضجة والتركيز على الرفقة الاجتماعية بدلاً من كونها أداة تعليمية، وفقاً لمنظمة PIRG.

لكن بعض الألعاب تحتوي على وسائل حماية وفلاتر لتجنب المحادثات غير المناسبة مع زميل اللعب.

يمكن لبعض ألعاب الذكاء الاصطناعي إعادة توجيه المحادثات عند طرح أسئلة قد تكون غير مناسبة. هناك أيضًا ألعاب، بما في ذلك لعبة Curio's Grok، التي تحتوي على ميزات أمان تعتمد على الفئة العمرية للطفل.

وقد تحتوي ألعاب مثل Miko 3 على تطبيقات مصاحبة تتضمن درجات مختلفة من المراقبة، سواء كان ذلك بإغلاق اللعبة في فترة استراحة أو بنسخ في الوقت الفعلي لمحادثات الأطفال، مثل لعبة Curio's Grok.

قال ر. ج. كروس، مدير حملة "لا تبيعوا بياناتي" التابعة لمنظمة PIRG: "إنها فكرة رائعة أن يتمكن الآباء من وضع حواجز الحماية الخاصة بهم والتحكم حقًا في ما ستتحدث عنه اللعبة وكيف ستتصرف".

التحذيرات والفوائد

عندما أصدرت شركة ماتيل دمية "هالو باربي" في عام 2015 مزودة بميكروفون واتصال واي فاي وردود مكتوبة مسبقًا، ظهرت مخاوف من أن اللعبة قابلة للاختراق، وأن الدمية تتذكر المحادثات وتذكرها بعد أيام.

وقد ظهرت مخاوف مماثلة مع ألعاب الذكاء الاصطناعي، والتي من المحتمل أن تخزن البيانات الشخصية، بما في ذلك أسماء الأطفال ووجوههم وأصواتهم ومواقعهم، كما حذرت أزيليل ويد، مؤسسة شركة "توي كوتش" للاستشارات.

وقالت في رسالة بالبريد الإلكتروني: "تبدو لي ألعاب الذكاء الاصطناعي وكأنها ذئب في ثياب خروف، لأنه عند استخدامها يصعب معرفة مدى الخصوصية التي لا تملكها".

وحذر كومار من أن البيانات يمكن أن تكون عرضة لاختراق البيانات والقرصنة، ولكنه أشار إلى أنه يمكن استخدام ألعاب الذكاء الاصطناعي لتعلم اللغة والتنمية الاجتماعية.

على سبيل المثال، لعبة Curio's Grok من كوريو هي لعبة مصاحبة يمكنها الإجابة عن أسئلة حول أوراق الشجر والقطارات، أو تقمص شخصية غولوم من فيلم "سيد الخواتم".

يحتوي الروبوت Miko 3 على كاميرا مدمجة للتعرف على الوجه ويوفر برامج تعليمية وترفيهية. يمكن لمشتركي Miko Max الوصول إلى العلامات التجارية للأطفال مثل قصص ديزني وتطبيق Lingokids وغيرها.