استخدام الذكاء الاصطناعي في القمع الصيني

طلب عملاء الحكومة الصينية المشتبه بهم من شركة ChatGPT المساعدة في كتابة اقتراح لأداة لإجراء مراقبة واسعة النطاق والمساعدة في الترويج لأداة أخرى تفحص حسابات وسائل التواصل الاجتماعي بحثًا عن "الخطاب المتطرف"، حسبما قالت شركة OpenAI المصنعة لـ ChatGPT في تقرير نُشر يوم الثلاثاء.

وقالت OpenAI إن التقرير يدق ناقوس الخطر حول كيفية استخدام تكنولوجيا الذكاء الاصطناعي المرغوبة للغاية لمحاولة جعل القمع أكثر كفاءة، ويقدم "لمحة نادرة عن العالم الأوسع للانتهاكات السلطوية للذكاء الاصطناعي".

تتنافس الولايات المتحدة والصين في منافسة مفتوحة على التفوق في تكنولوجيا الذكاء الاصطناعي، حيث تستثمر كل منهما مليارات الدولارات في قدرات جديدة. لكن التقرير الجديد يُظهر كيف أن الذكاء الاصطناعي غالبًا ما يُستخدم من قبل الجهات الفاعلة الحكومية المشتبه بها لتنفيذ مهام عادية نسبيًا، مثل تحليل البيانات أو جعل اللغة أكثر صقلًا، بدلاً من أي إنجاز تكنولوجي جديد مذهل.

وقال بن نيمو، الباحث الرئيسي في OpenAI: "هناك دفعة داخل جمهورية الصين الشعبية لتحسين استخدام الذكاء الاصطناعي في أشياء واسعة النطاق مثل المراقبة والرصد". "لم يبدأ الحزب الشيوعي الصيني العام الماضي في مراقبة شعبه. لكنهم الآن سمعوا بالذكاء الاصطناعي ويفكرون، أوه ربما يمكننا استخدام هذا الأمر لتحسينه قليلاً."

في إحدى الحالات، طلب أحد مستخدمي ChatGPT "المرتبط على الأرجح بجهة حكومية صينية" من نموذج الذكاء الاصطناعي المساعدة في كتابة اقتراح لأداة تحلل تحركات السفر وسجلات الشرطة لأقلية الأويغور وغيرهم من الأشخاص "ذوي الخطورة العالية"، وفقًا لتقرير OpenAI. وكانت وزارة الخارجية الأمريكية في إدارة ترامب الأولى قد اتهمت الحكومة الصينية بارتكاب إبادة جماعية وجرائم ضد الإنسانية ضد مسلمي الأويغور، وهي تهمة تنفيها بكين بشدة.

وقال التقرير إن مستخدمًا آخر يتحدث اللغة الصينية طلب المساعدة في تصميم "مواد ترويجية" لأداة تفحص X وفيسبوك ومنصات التواصل الاجتماعي الأخرى بحثًا عن محتوى سياسي وديني. وقالت OpenAI إنها حظرت كلا المستخدمين.

الذكاء الاصطناعي هو أحد أكثر مجالات المنافسة بين الولايات المتحدة والصين، القوتين العظميين في العالم. وقد أثارت شركة DeepSeek الصينية قلق المسؤولين والمستثمرين الأمريكيين في يناير عندما قدمت نموذج ذكاء اصطناعي شبيه بـ ChatGPT يسمى R1، والذي يتمتع بجميع القدرات المألوفة ولكنه يعمل بتكلفة أقل من تكلفة نموذج OpenAI. وفي الشهر نفسه، روّج الرئيس دونالد ترامب لخطة من قبل شركات خاصة لاستثمار ما يصل إلى 500 مليون دولار في البنية التحتية للذكاء الاصطناعي.

وردًا على سؤال حول النتائج التي توصل إليها OpenAI، قال ليو بينغيو، المتحدث باسم السفارة الصينية في واشنطن العاصمة: "نحن نعارض الهجمات والافتراءات التي لا أساس لها ضد الصين."

وتابع بيان ليو: "تعمل الصين على "بناء نظام حوكمة للذكاء الاصطناعي بخصائص وطنية متميزة". "يؤكد هذا النهج على التوازن بين التنمية والأمن، ويتميز بالابتكار والأمن والشمولية. وقد أدخلت الحكومة خطط سياسات رئيسية ومبادئ توجيهية أخلاقية، بالإضافة إلى قوانين ولوائح بشأن الخدمات الخوارزمية والذكاء الاصطناعي التوليدي وأمن البيانات."

ويتضمن تقرير OpenAI العديد من الأمثلة الأخرى على مدى شيوع الذكاء الاصطناعي في العمليات اليومية للقراصنة المدعومين من الدول والمجرمين إلى جانب المحتالين الآخرين. وقد استخدم جميع القراصنة الروس والكوريون الشماليون والصينيون المشتبه بهم ChatGPT لأداء مهام مثل تحسين ترميزهم أو جعل روابط التصيد الاحتيالي التي يرسلونها إلى الأهداف أكثر معقولية.

وتتمثل إحدى الطرق التي تستخدم بها الجهات الفاعلة الحكومية الذكاء الاصطناعي في تحسين المجالات التي كانت لديها نقاط ضعف في الماضي. على سبيل المثال، غالباً ما واجهت الجهات الفاعلة الحكومية الصينية والروسية صعوبة في تجنب الأخطاء اللغوية الأساسية في عمليات التأثير على وسائل التواصل الاجتماعي.

قال مايكل فلوسمان، وهو خبير أمني آخر في OpenAI، للصحفيين: "يستخدم الخصوم الذكاء الاصطناعي لتحسين الحرفية الحالية، وليس لابتكار أنواع جديدة من الهجمات الإلكترونية".

وفي الوقت نفسه، من المحتمل جدًا أن يكون المحتالون في دولة ميانمار الواقعة في جنوب شرق آسيا قد استخدموا نماذج OpenAI في مجموعة من المهام التجارية، من إدارة الحسابات المالية إلى البحث عن العقوبات الجنائية لعمليات الاحتيال عبر الإنترنت، وفقًا للشركة.

إلا أن عدداً متزايداً من الضحايا المحتملين يستخدمون ChatGPT لاكتشاف عمليات الاحتيال قبل أن يقعوا ضحايا. وتشير تقديرات OpenAI إلى أن ChatGPT "يُستخدم في تحديد عمليات الاحتيال بنسبة تصل إلى ثلاثة أضعاف ما يُستخدم في عمليات الاحتيال".

أوضحت القيادة السيبرانية الأمريكية، وهي الوحدة السيبرانية الهجومية والدفاعية للجيش، أنها ستستخدم أدوات الذكاء الاصطناعي لدعم مهمتها. وتتعهد "خارطة طريق الذكاء الاصطناعي" التي وافقت عليها القيادة "بتسريع تبني وتوسيع نطاق القدرات" في مجال الذكاء الاصطناعي، وفقًا لملخص خارطة الطريق التي قدمتها القيادة.

ولا تزال القيادة السيبرانية تستكشف كيفية استخدام الذكاء الاصطناعي في العمليات الهجومية، بما في ذلك كيفية استخدامه لبناء قدرات لاستغلال الثغرات البرمجية في المعدات التي تستخدمها الأهداف الأجنبية، حسبما قال مسؤولون سابقون في القيادة.