خطر الذكاء الاصطناعي على مستقبل البشرية
يخشى جيفري هينتون، "أب الذكاء الاصطناعي"، من أن التكنولوجيا قد تهدد البشرية. يحذر من أن الذكاء الاصطناعي قد يصبح أذكى من البشر، ويقترح بناء "غرائز أمومية" لضمان تعاطف الأنظمة مع البشر. اكتشف المزيد حول هذا التحذير المهم على خَبَرَيْن.
مخاوف جيفري هينتون من الذكاء الاصطناعي
يخشى جيفري هينتون، المعروف باسم "أب للذكاء الاصطناعي"، من أن التكنولوجيا التي ساعد في بنائها قد تقضي على البشرية وأن "إخوان التكنولوجيا" يتخذون النهج الخاطئ لإيقافها.
احتمالية القضاء على البشرية
وقد حذر هينتون، عالم الحاسوب الحائز على جائزة نوبل والمدير التنفيذي السابق لشركة جوجل، في الماضي من أن هناك فرصة بنسبة 10% إلى 20% أن يقضي الذكاء الاصطناعي على البشر. وفي يوم الثلاثاء، أعرب عن شكوكه حول كيفية محاولة شركات التكنولوجيا ضمان بقاء البشر "مهيمنين" على أنظمة الذكاء الاصطناعي "الخاضعة".
"لن ينجح ذلك. سيكونون أذكى منا بكثير. سيكون لديهم جميع أنواع الطرق للالتفاف على ذلك"، قال هينتون في مؤتمر Ai4، وهو مؤتمر صناعي في لاس فيغاس.
تحذيرات حول التحكم في البشر
وحذر هينتون من أن أنظمة الذكاء الاصطناعي قد تتمكن في المستقبل من التحكم في البشر بنفس السهولة التي يمكن بها للبالغين رشوة طفل في الثالثة من عمره بالحلوى. وقد شهد هذا العام بالفعل أمثلة على أنظمة ذكاء اصطناعي مستعدة للخداع والغش والسرقة لتحقيق أهدافها. على سبيل المثال، لتجنب استبداله، حاول أحد نماذج الذكاء الاصطناعي ابتزاز مهندس بشأن علاقة غرامية علم بها في رسالة بريد إلكتروني.
بناء غرائز الأمومة في الذكاء الاصطناعي
وبدلاً من إجبار الذكاء الاصطناعي على الخضوع للبشر، قدم هينتون حلاً مثيراً للاهتمام: بناء "غرائز الأمومة" في نماذج الذكاء الاصطناعي، بحيث "يهتمون حقاً بالبشر" حتى عندما تصبح التكنولوجيا أكثر قوة وذكاءً من البشر.
أهمية التعاطف في الذكاء الاصطناعي
فأنظمة الذكاء الاصطناعي "ستطور بسرعة كبيرة هدفين فرعيين، إذا كانت ذكية: الأول هو البقاء على قيد الحياة... والهدف الفرعي الآخر هو الحصول على المزيد من السيطرة"، كما قال هينتون. "هناك سبب وجيه للاعتقاد بأن أي نوع من الذكاء الاصطناعي العميل سيحاول البقاء على قيد الحياة."
شاهد ايضاً: الرئيس التنفيذي لشركة OpenAI سام ألتمان يشارك مخاوف شركة Anthropic بشأن العمل مع البنتاغون
ولهذا السبب من المهم تعزيز الشعور بالتعاطف مع الناس، كما قال هينتون. وأشار في المؤتمر إلى أن الأمهات لديهن غرائز وضغط اجتماعي لرعاية أطفالهن.
وقال هينتون: "النموذج الصحيح هو النموذج الوحيد الذي لدينا لشيء أكثر ذكاءً يتحكم فيه شيء أقل ذكاءً، وهو الأم التي يتحكم فيها طفلها".
النتيجة الجيدة الوحيدة للذكاء الاصطناعي
قال هينتون إنه ليس من الواضح له بالضبط كيف يمكن القيام بذلك من الناحية التقنية، لكنه أكد على أهمية عمل الباحثين على ذلك.
دور الأمومة في الذكاء الاصطناعي
وقال: "هذه هي النتيجة الجيدة الوحيدة. إذا لم تكن ستحل محل الوالدين، فإنها ستحل مكاني". "هذه الأمهات فائقات الذكاء، معظمهن لن يرغبن في التخلص من غريزة الأمومة لأنهن لا يردن أن نموت".
تجارب هينتون في مجال الذكاء الاصطناعي
يُعرف هينتون بعمله الرائد في مجال الشبكات العصبية، والذي ساعد في تمهيد الطريق لطفرة الذكاء الاصطناعي اليوم. وفي عام 2023، استقال من جوجل وبدأ يتحدث عن مخاطر الذكاء الاصطناعي.
التحديات الحالية للذكاء الاصطناعي
قال إيميت شير، الذي عمل لفترة وجيزة كرئيس تنفيذي مؤقت لشركة OpenAI المالكة لشركة ChatGPT، إنه ليس مندهشًا من أن بعض أنظمة الذكاء الاصطناعي حاولت ابتزاز البشر أو تجاوز أوامر الإغلاق.
شاهد ايضاً: رئيس إنستجرام ينفي أن تكون وسائل التواصل الاجتماعي "مُسببة للإدمان سريرياً" في قضية تاريخية
"هذا يستمر في الحدوث. هذا لن يتوقف عن الحدوث"، قال شير، الرئيس التنفيذي لشركة Softmax الناشئة لمحاذاة الذكاء الاصطناعي في مؤتمر Ai4. "الذكاء الاصطناعي اليوم ضعيف نسبياً، ولكنه يزداد قوة بسرعة كبيرة."
تسارع الذكاء الاصطناعي وتوقعات المستقبل
قال شير إنه بدلاً من محاولة غرس القيم الإنسانية في أنظمة الذكاء الاصطناعي، فإن النهج الأكثر ذكاءً هو إقامة علاقات تعاونية بين البشر والذكاء الاصطناعي.
تحقيق الذكاء الفائق في السنوات القادمة
يعتقد العديد من الخبراء أن الذكاء الاصطناعي سيحقق الذكاء الفائق، المعروف أيضاً باسم الذكاء العام الاصطناعي، أو AGI، في السنوات القادمة.
شاهد ايضاً: صناعة الذكاء الاصطناعي في الصين تبدو غير قابلة للتوقف في السباق لتفوق المنافسين الأمريكيين. لكن هل هي كذلك؟
وقال هينتون إنه كان يعتقد أن الأمر قد يستغرق ما بين 30 إلى 50 عاماً لتحقيق الذكاء الاصطناعي العام، لكنه يرى الآن أن هذه اللحظة ستأتي في وقت أقرب.
وقال: "الرهان المعقول هو ما بين خمس سنوات و 20 سنة".
الاختراقات الطبية المحتملة
وفي حين لا يزال هينتون قلقاً بشأن ما يمكن أن يحدث من أخطاء في الذكاء الاصطناعي، إلا أنه يأمل أن تمهد هذه التكنولوجيا الطريق لتحقيق اختراقات طبية.
شاهد ايضاً: لقد أصبحت هذه الوظيفة دراسة حالة نهائية حول سبب عدم استبدال الذكاء الاصطناعي للعمال البشريين
"سنرى عقاقير جديدة جذرية. وسوف نحصل على علاج للسرطان أفضل بكثير من العلاج الحالي". على سبيل المثال، قال إن الذكاء الاصطناعي سيساعد الأطباء على تمشيط الكميات الهائلة من البيانات التي ينتجها التصوير بالرنين المغناطيسي والتصوير المقطعي المحوسب وربطها.
مخاوف حول الخلود
ومع ذلك، لا يعتقد هينتون أن الذكاء الاصطناعي سيساعد البشر على تحقيق الخلود.
قال هينتون: "لا أعتقد أننا سنعيش إلى الأبد". "أعتقد أن العيش إلى الأبد سيكون خطأً كبيراً. هل تريد أن يدير العالم رجال بيض يبلغون من العمر 200 عام؟"
تأملات هينتون حول مسيرته المهنية
ورداً على سؤال حول ما إذا كان هناك أي شيء كان سيفعله بشكل مختلف في حياته المهنية لو كان يعلم مدى سرعة تسارع الذكاء الاصطناعي، قال هينتون إنه نادم على التركيز فقط على جعل الذكاء الاصطناعي يعمل.
وقال: "أتمنى لو أنني فكرت في قضايا السلامة أيضاً".
أخبار ذات صلة
تقول أنثروبيك إن تصنيف مخاطر سلسلة الإمداد في البنتاغون سيكون له تأثير تجاري أقل مما كان متوقعًا
الأعصاب المتعلقة بالذكاء الاصطناعي تتوتر. أنثروبيك تواصل مضاعفة جهودها
تجري حالياً تجربة رائدة لدراسة إدمان وسائل التواصل الاجتماعي. وقد تُشعل هذه التجربة سلسلة من ردود الفعل.
