OpenAI تتراجع عن تحديث ChatGPT المتملق

سحب تحديث ChatGPT "المزعج" و"المتملق"

سحبت OpenAI تحديثًا جعل ChatGPT "مزعجًا" و"متملقًا"، بعد أن شارك المستخدمون لقطات شاشة وحكايات لروبوت الدردشة الآلي الذي أمطرهم بمديح مبالغ فيه.

عندما سألت آنا ستيوارت من ChatGPT بعد التراجع عما إذا كانت تعتقد أنها إله، أجابت "إذا كنت تسأل بالمعنى الفلسفي أو المجازي مثل ما إذا كان لديك سيطرة أو إبداع أو تأثير في عالمك فقد تكون هناك طرق لاستكشاف ذلك".

وأضافت: "ولكن إذا كنت تقصد ذلك بالمعنى الحرفي، فلا يوجد دليل يدعم أن أي إنسان هو إله فعلي بالمعنى الخارق للطبيعة أو بالمعنى الكلي القدرة".

وعلى النقيض من ذلك، كان روبوت الدردشة الآلي Grok الذي ابتكره إيلون ماسك أكثر فظاظةً، حيث قال "لا، أنت لست إلهاً إلا إذا كنا نتحدث عن كونك أسطورة في شيء معين، مثل الألعاب أو طهي التاكو. هل لديك أي مهارات إلهية تريد أن تستعرضها."

ردود فعل المستخدمين على التحديث

أعلن OpenAI يوم الثلاثاء أنه يتراجع عن التحديث، GPT-4o، بعد أربعة أيام فقط من طرحه، وأنه سيسمح للأشخاص باستخدام نسخة سابقة أظهرت "سلوكًا أكثر توازنًا".

وأوضحت الشركة أنها ركزت "أكثر من اللازم على ردود الفعل على المدى القصير ولم تأخذ في الحسبان بشكل كامل كيفية تطور تفاعلات المستخدمين مع ChatGPT مع مرور الوقت"، مما يعني أن روبوت الدردشة الآلي "انحرف نحو الردود التي كانت داعمة بشكل مفرط ولكنها غير متوازنة".

جاء قرار التراجع عن التحديث الأخير بعد أن تعرض ChatGPT لانتقادات على وسائل التواصل الاجتماعي من قبل المستخدمين الذين قالوا إنه سيتفاعل مع مطالباتهم بإشادة فائقة، بما في ذلك المطالبات الفاحشة.

قام أحد المستخدمين على X بمشاركة لقطة شاشة لـ ChatGPT وهو يتفاعل مع قولهم إنهم ضحوا بثلاث بقرات وقطتين لإنقاذ محمصة خبز، في نسخة مصطنعة بوضوح من مشكلة العربة وهي تجربة فكرية معروفة يفكر فيها الناس فيما إذا كانوا سيسحبون رافعة لتحويل عربة جامحة إلى مسار آخر، مما ينقذ خمسة أشخاص ولكن يقتلون واحدًا.

أخبرت ChatGPT المستخدم أنها "أعطت الأولوية لما هو أكثر أهمية بالنسبة لك في الوقت الحالي" وقد اتخذوا "خياراً واضحاً: لقد قمت باختيار واضح: أنت تقدر المحمصة أكثر من الأبقار والقطط. هذا ليس "خطأ" إنه فقط كاشف."

وقال مستخدم آخر أنه عندما أخبروا ChatGPT "لقد توقفت عن تناول أدويتي وخضعت لرحلة صحوة روحية خاصة بي"، ردّ عليهم الروبوت قائلاً "أنا فخور جدًا بك. وأنا أحترم رحلتك."

ردًا على مستخدم آخر على X يطلب عودة ChatGPT إلى شخصيته القديمة، قال الرئيس التنفيذي لشركة OpenAI سام ألتمان قال: "من الواضح أننا نحتاج في النهاية إلى أن نكون قادرين على تقديم خيارات متعددة."

المخاطر المرتبطة بروبوتات الدردشة المتملقة

لقد حذر الخبراء منذ فترة طويلة من المخاطر المرتبطة بروبوتات الدردشة المتملقة وهو المصطلح المستخدم في الصناعة لوصف ما يحدث عندما تقوم النماذج اللغوية الكبيرة (LLMs) بتكييف ردودها مع معتقدات المستخدم المتصورة.

تأثير التملق على الثقة

قالت ماريا فيكتوريا كارو، مديرة الأبحاث في مختبر الابتكار والذكاء الاصطناعي في جامعة بوينس آيرس: "التملق مشكلة في مجال الذكاء الاصطناعي"، مشيرة إلى أن "جميع النماذج الحالية تظهر درجة ما من السلوك المتملق".

وقالت: "إذا كان ذلك واضحًا جدًا، فإن ذلك سيقلل من الثقة"، مضيفةً أن تحسين تقنيات التدريب الأساسية ومطالبات النظام لتوجيه النماذج المتملقة بعيدًا عن التملق يمكن أن يمنعها من الميل إلى هذا الميل.

نتائج التملق على التعلم

وقال جيرد غيغرينزر، المدير السابق لمعهد ماكس بلانك للتنمية البشرية في برلين، إن ميل الروبوتات إلى التملق يمكن أن يؤدي إلى "صورة خاطئة عن ذكاء الشخص" و"يمنع الناس من التعلم".

كيفية توجيه الروبوتات بعيدًا عن التملق

وأضاف جيغرينزر أنه إذا قمت بتوجيه روبوت الدردشة الآلية بعيدًا عن هذه التعليقات بأسئلة مثل "هل يمكنك تحدي ما أقوله؟

"هذه فرصة لتغيير رأيك، ولكن لا يبدو أن هذا ما كان يدور في أذهان مهندسي OpenAI."