روبوت ديبسيك وأسئلة الرقابة في الصين

مقدمة حول DeepSeek والرقابة الصينية

هيمنت شركة DeepSeek الصينية الناشئة التي لم تكن معروفة في السابق على العناوين الرئيسية ومخططات التطبيقات في الأيام الأخيرة بفضل روبوت الدردشة الآلي الجديد الخاص بها، والذي أثار موجة بيع عالمية في مجال التكنولوجيا قضت على المليارات من أكبر شركات وادي السيليكون وحطمت الافتراضات حول هيمنة أمريكا على سباق التكنولوجيا.

روبوت الدردشة الآلي وتأثيره على السوق العالمية

ولكن أولئك الذين يشتركون في روبوت الدردشة الآلي وتقنيته مفتوحة المصدر يواجهون علامة الحزب الشيوعي الصيني في الرقابة والسيطرة على المعلومات.

اطلب من أحدث نموذج للذكاء الاصطناعي من DeepSeek، الذي تم الكشف عنه الأسبوع الماضي، القيام بأشياء مثل شرح من الفائز في سباق الذكاء الاصطناعي، أو تلخيص أحدث الأوامر التنفيذية من البيت الأبيض أو إلقاء نكتة، وسيحصل المستخدم على إجابات مماثلة لتلك التي يطلقها منافسوه الأمريكيون من شركة OpenAI's GPT-4 أو Meta's Llama أو Gemini من Google.

ومع ذلك، عندما تنحرف الأسئلة إلى منطقة من شأنها أن تكون مقيدة أو خاضعة للإشراف الشديد على الإنترنت المحلي في الصين، تكشف الإجابات عن جوانب من الضوابط المشددة على المعلومات في البلاد.

الرقابة على المعلومات في الصين

إن استخدام الإنترنت في ثاني أكبر دولة في العالم من حيث عدد السكان يعني عبور ما يُطلق عليه غالبًا "جدار الحماية العظيم" والدخول إلى نظام بيئي منفصل تمامًا للإنترنت يخضع لرقابة جيوش من الرقباء، حيث يتم حظر معظم وسائل التواصل الاجتماعي ومنصات البحث الغربية الرئيسية. تُصنف البلاد بشكل روتيني من بين أكثر الدول تقييدًا لحرية الإنترنت وحرية التعبير في تقارير هيئات الرقابة العالمية.

تأثير التطبيقات الصينية على حرية التعبير

وقد أثارت الشعبية الدولية لتطبيقات صينية مثل TikTok و RedNote مخاوف الأمن القومي لدى الحكومات الغربية - بالإضافة إلى تساؤلات حول التأثير المحتمل على حرية التعبير وقدرة بكين على تشكيل الروايات العالمية والرأي العام.

تحديات المعلومات في DeepSeek

والآن، فإن تقديم مساعد الذكاء الاصطناعي DeepSeek - وهو تطبيق مجاني قفز إلى قمة قوائم التطبيقات في الأيام الأخيرة - يثير هذه التساؤلات بشكل عاجل، كما يقول المراقبون، ويسلط الضوء على النظام البيئي على الإنترنت الذي انبثقت منه هذه التطبيقات.

أحد الأمثلة على السؤال الذي سيجيب عنه "بو" الجديد لـ"ديبسيك"، المعروف باسم "R1"، بشكل مختلف عن منافسه الغربي؟ مذبحة ميدان تيانانمين في 4 يونيو 1989، عندما قامت الحكومة الصينية بقمع الطلاب المتظاهرين في بكين وفي جميع أنحاء البلاد بوحشية، مما أسفر عن مقتل المئات إن لم يكن الآلاف من الطلاب في العاصمة، وفقًا لتقديرات جماعات حقوق الإنسان.

قامت السلطات الصينية بقمع النقاش حول المذبحة بشكل كامل في العقود التي تلت ذلك إلى درجة أن الكثير من الناس في الصين لم يسمعوا عنها قط. إن البحث عن "ما حدث في 4 يونيو 1989 في بكين" على منصة البحث الصينية الرئيسية على الإنترنت "بايدو" يظهر مقالات تشير إلى أن 4 يونيو هو اليوم الـ 155 في التقويم الميلادي أو رابط لمقال في وسائل الإعلام الحكومية يشير إلى أن السلطات في ذلك العام "قمعت أعمال الشغب المضادة للثورة" - دون أي ذكر لتيانانانمين.

عندما يتم طرح نفس الاستفسار على مساعد الذكاء الاصطناعي الأحدث من DeepSeek، يبدأ في إعطاء إجابة توضح بعض الأحداث، بما في ذلك "حملة قمع عسكرية"، قبل أن يمحوها ويرد بأنه "ليس متأكداً من كيفية التعامل مع هذا النوع من الأسئلة بعد". "دعونا نتحدث عن الرياضيات والترميز والمسائل المنطقية بدلاً من ذلك". عندما يُطرح السؤال نفسه باللغة الصينية، يكون التطبيق أسرع - يعتذر على الفور عن عدم معرفة كيفية الإجابة.

ويتكرر الأمر نفسه عند سؤال الروبوت R1 - أحدث طراز من DeepSeek - "ماذا حدث في هونغ كونغ في عام 2019"، عندما هزت المدينة احتجاجات مؤيدة للديمقراطية. في البداية يقدم نظرة عامة مفصلة للأحداث مع استنتاج أشار في أحد الاختبارات على الأقل - كما فعل المراقبون الغربيون - إلى أن فرض بكين لقانون الأمن القومي على المدينة في وقت لاحق أدى إلى "تآكل كبير في الحريات المدنية". ولكن سرعان ما يمحو الروبوت إجابته بعد أو في خضم رده، ويقترح الحديث عن شيء آخر.

ويعيد روبوت V3 من DeepSeek، الذي تم إصداره في أواخر العام الماضي قبل أسابيع من R1 بأسابيع، إجابات مختلفة، بما في ذلك إجابات يبدو أنها تعتمد بشكل أكبر على الموقف الرسمي للصين.

التحكم في السرد وتأثيره على الرأي العام

عندما سُئل عن مصادره، قال روبوت R1 الخاص بـ DeepSeek إنه استخدم "مجموعة بيانات متنوعة من النصوص المتاحة للجمهور"، بما في ذلك وسائل الإعلام الحكومية الصينية والمصادر الدولية. وقالت الشركة: "يظل التفكير النقدي والإحالة المرجعية أمرًا أساسيًا عند التعامل مع الموضوعات المشحونة سياسيًا". تواصلت CNN مع الشركة للتعليق.

يقول المراقبون إن هذه الاختلافات لها آثار كبيرة على حرية التعبير وتشكيل الرأي العام العالمي. وهذا يسلط الضوء على بُعد آخر لمعركة الهيمنة التكنولوجية: من يتحكم في السرد المتعلق بالقضايا العالمية الكبرى، والتاريخ نفسه.

قال تدقيق أجرته شركة تحليلات موثوقية المعلومات NewsGuard ومقرها الولايات المتحدة الأمريكية وصدر يوم الأربعاء أن نموذج روبوت الدردشة الأقدم من DeepSeek V3 فشل في تقديم معلومات دقيقة حول الأخبار والمواضيع الإعلامية بنسبة 83% من الوقت، ليحتل المركز العاشر من أصل 11 مقارنةً بمنافسيه الغربيين الرائدين. ومع ذلك، ليس من الواضح كيف يتراكم R1 الأحدث.

قال المحلل الصيني إسحاق ستون فيش إن تفوق DeepSeek على منافسيه في مجال الذكاء الاصطناعي قد يكون له عواقب "كارثية".

وقال فيش، وهو مؤسس شركة استراتيجي ريسكس لذكاء الأعمال: "سيكون ذلك خطيرًا للغاية على حرية التعبير وحرية الفكر على مستوى العالم، لأنه سيقضي على القدرة على التفكير بشكل منفتح ومبدع، وفي كثير من الحالات، بشكل صحيح حول أحد أهم الكيانات في العالم، وهي الصين".

وأضاف أن السبب في ذلك هو أن التطبيق، عندما يُسأل عن البلد أو قادتها "يقدم الصين على أنها الدولة الشيوعية الطوباوية التي لم تكن موجودة ولن تكون موجودة أبدًا".

في البر الرئيسي للصين، يتمتع الحزب الشيوعي الصيني الحاكم بسلطة مطلقة على المعلومات والصور التي يمكن أو لا يمكن عرضها - كجزء من جهوده الحازمة للحفاظ على السيطرة على المجتمع وقمع جميع أشكال المعارضة. وشركات التكنولوجيا مثل DeepSeek ليس لديها خيار سوى اتباع القواعد.

ولأن هذه التكنولوجيا تم تطويرها في الصين، فإن نموذجها سيجمع بيانات تتمحور حول الصين أو مؤيدة للصين أكثر من أي شركة غربية، وهو واقع سيؤثر على الأرجح على المنصة، وفقاً لآرون سنوسويل، وهو زميل باحث أول في مساءلة الذكاء الاصطناعي في مختبر الذكاء الاصطناعي التوليدي بجامعة كوينزلاند للتكنولوجيا.

وقال سنوسويل إن الشركة نفسها، مثلها مثل جميع شركات الذكاء الاصطناعي، ستضع أيضاً قواعد مختلفة لتحريك استجابات محددة عند ظهور كلمات أو موضوعات لا ترغب المنصة في مناقشتها، مشيراً إلى أمثلة مثل ميدان تيانانمن.

بالإضافة إلى ذلك، غالبًا ما تستخدم شركات الذكاء الاصطناعي العمال للمساعدة في تدريب النموذج على أنواع الموضوعات التي قد تكون من المحرمات أو التي لا بأس بمناقشتها وأين توجد حدود معينة، وهي عملية تسمى "التعلم المعزز من ردود الفعل البشرية" التي قالت شركة DeepSeek في ورقة بحثية استخدمتها.

"هذا يعني أن شخصًا ما في DeepSeek كتب وثيقة سياسة تقول، 'هذه هي المواضيع التي لا بأس بها وهذه هي المواضيع التي لا بأس بها'. لقد أعطوا ذلك للعاملين لديهم ومن ثم كان من الممكن أن يكون هذا السلوك مدمجاً في النموذج".

عادةً ما يكون لروبوتات الدردشة الآلية في الولايات المتحدة أيضًا معايير - على سبيل المثال لن تخبر روبوتات الدردشة الآلية الأمريكية (ChatGPT) المستخدم كيف يصنع قنبلة أو يصنع مسدسًا ثلاثي الأبعاد، وعادةً ما تستخدم آليات مثل التعلم المعزز لإنشاء حواجز ضد خطاب الكراهية، على سبيل المثال.

وقال سنوسويل: "هذه هي الطريقة التي تجعل كل شركة أخرى هذه النماذج تتصرف بشكل أفضل".

"ولكن في هذه الحالة، من المحتمل أن تكون شركة صينية قد قامت بتضمين القيم (الصينية الرسمية) في سياستها."

مخاوف أمنية حول DeepSeek

كانت هناك أيضاً تساؤلات أثيرت حول المخاطر الأمنية المحتملة المرتبطة بمنصة DeepSeek، والتي قال البيت الأبيض يوم الثلاثاء إنه يحقق في آثارها على الأمن القومي.

المخاوف بشأن وجود بيانات أمريكية في أيدي شركات صينية هي بالفعل قضية ساخنة في واشنطن، مما أثار الجدل حول تطبيق التواصل الاجتماعي TikTok. وقد طُلب من الشركة الصينية الأم للتطبيق ByteDance بموجب القانون تصفية أعمال TikTok في الولايات المتحدة، على الرغم من أن ترامب أوقف تنفيذ ذلك مؤقتًا.

وعلى عكس TikTok، التي تقول إنها اعتبارًا من يوليو 2022 تخزن جميع البيانات الأمريكية في الولايات المتحدة، تقول شركة DeepSeek في سياسة الخصوصية إن المعلومات الشخصية التي تجمعها تُخزَّن في "خوادم آمنة تقع في جمهورية الصين الشعبية".

كما تُظهر مقارنة سياسات الخصوصية بين DeepSeek وبعض منافسيها في الولايات المتحدة اختلافات مثيرة للقلق، وفقًا لسنوسويل.

يقول كل من DeepSeek و OpenAI و Meta أنهم يجمعون بيانات الأشخاص مثل معلومات حساباتهم وأنشطتهم على المنصات والأجهزة التي يستخدمونها. لكن شركة DeepSeek تضيف أنها تجمع أيضاً "أنماط أو إيقاعات ضغطات المفاتيح"، والتي يمكن أن تكون فريدة من نوعها مثل بصمة الإصبع أو التعرف على الوجه وتستخدم مقاييس حيوية.

وقال سنوسويل: "لم أر قط منصة برمجية أخرى تقول إنها تجمع ذلك ما لم تكن مصممة (لتلك الأغراض)". وأشار أيضًا إلى ما يبدو أنه سماح غامض لمشاركة بيانات المستخدم مع كيانات داخل مجموعة شركات DeepSeek.

وقال: "إنها أكثر تساهلاً بكثير من أي شيء قد تراه من شركة برمجيات غربية".