لماذا تثير تقارير استخدام DOGE للذكاء الاصطناعي قلق الخبراء بشأن "المخاطر الكبيرة"

يُقال إن فريق إدارة الكفاءة الحكومية التابع لشركة إيلون ماسك يستخدم الذكاء الاصطناعي لتوجيه قراراته المتعلقة بخفض التكاليف، وهو تكتيك يقول خبراء الذكاء الاصطناعي إنه قد يتسبب في حدوث انتهاكات أمنية وخيارات فصل متحيزة واستبعاد موظفين حكوميين أساسيين ذوي كفاءة عالية.

قال ديفيد إيفان هاريس، الباحث في مجال الذكاء الاصطناعي الذي عمل سابقاً في فريق الذكاء الاصطناعي المسؤول في ميتا: "إن الاعتماد على نظام ذكاء اصطناعي في أمر كهذا أمر معقد وصعب للغاية، كما أنه ينطوي على خطر كبير بانتهاك الحقوق المدنية للأشخاص". "أود أن أذهب إلى حد القول إنه مع أنظمة الذكاء الاصطناعي الحالية التي لدينا، فإن استخدام الذكاء الاصطناعي للقيام بشيء من هذا القبيل هو ببساطة فكرة سيئة."

قال ماسك إنه يهدف إلى خفض تريليون دولار على الأقل من عجز الميزانية الفيدرالية بسرعة. ولكن في هذه العملية، تسبب عمله مع وزارة شؤون الموظفين الفدراليين في حالة من عدم اليقين والفوضى والإحباط في جميع أنحاء الحكومة، حيث قام بإلغاء إدارات بأكملها وقدم مطالب مربكة للموظفين الفيدراليين.

تشير العديد من التقارير الإعلامية الأخيرة نقلاً عن مصادر لم يتم الكشف عن هويتها إلى أن فريق ماسك في وزارة DOGE يستخدم الآن الذكاء الاصطناعي للمساعدة في تسريع تلك التخفيضات.

يقول الخبراء إن هذا النهج يعكس نفس تفكير "القطع أولاً، ثم الإصلاح لاحقاً" الذي اتبعه ماسك في استحواذه على تويتر قبل عامين، والذي أدى إلى فقدان آلاف العمال لوظائفهم، وتخفيضات في الإنفاق تسببت في حدوث خلل فني ودعاوى قضائية وسياسات مثيرة للجدل أدت إلى تنفير المستخدمين وتقويض الأعمال الإعلانية الأساسية للمنصة. ولكن عواقب تفكيك الوكالات والأنظمة والخدمات الحكومية قد تكون أكثر انتشارًا وشدة من تقليص حجم شركة تكنولوجية.

قال جون هاتون، نائب رئيس قسم السياسات والبرامج في الرابطة الوطنية للموظفين الفيدراليين العاملين والمتقاعدين الفيدراليين: "الأمر مختلف قليلاً عندما يكون لديك شركة خاصة". "أنت تفعل ذلك في الحكومة الفيدرالية، وقد يموت الناس."

تأتي هذه التحركات أيضًا في الوقت الذي حاول فيه ماسك ترسيخ نفسه وشركته الناشئة، xAI، كقادة في صناعة الذكاء الاصطناعي. ليس من الواضح ما إذا كانت تكنولوجيا الشركة تُستخدم من قبل وزارة التعليم العام.

لم يستجب ممثلو ماسك ووزارة التعليم العام ومكتب إدارة شؤون الموظفين في الولايات المتحدة لطلبات التعليق.

تقارير عن الذكاء الاصطناعي لتقليص حجم الحكومة

في أوائل شهر فبراير، قام أعضاء من وزارة التعليم في الولايات المتحدة بتغذية بيانات وزارة التعليم الحساسة في برنامج ذكاء اصطناعي تم الوصول إليه من خلال خدمة مايكروسوفت السحابية لتحليل برامج الوكالة وإنفاقها، حسبما قال شخصان لم يتم الكشف عن اسميهما على دراية بأعمال المجموعة لصحيفة واشنطن بوست.

كما يعمل موظفو وزارة التعليم العالي أيضًا على تطوير روبوت محادثة مخصص للذكاء الاصطناعي لإدارة الخدمات العامة الأمريكية يسمى GSAi، [حسبما ذكر موقع Wired الشهر الماضي، نقلاً عن شخصين مطلعين على المشروع. وقال أحد المصدرين اللذين لم يُكشف عن اسميهما إن الأداة يمكن أن تساعد في "تحليل مساحات هائلة من بيانات العقود والمشتريات".

بعد أن أرسل مكتب إدارة شؤون الموظفين بريدًا إلكترونيًا إلى الموظفين الفيدراليين في 23 فبراير يطلب منهم إرسال خمس نقاط توضح بالتفصيل ما "أنجزوه الأسبوع الماضي"، فكر موظفو وزارة شؤون الموظفين في استخدام الذكاء الاصطناعي لتحليل الردود، حسبما ذكرت شبكة إن بي سي نيوز نقلاً عن مصادر لم تسمها على دراية بالخطط. سيقوم نظام الذكاء الاصطناعي بتقييم الردود وتحديد الوظائف التي لم تعد هناك حاجة إليها، وفقًا للتقرير، الذي لم يحدد أداة الذكاء الاصطناعي التي سيتم استخدامها.

قال ماسك في منشور على موقع X أنه لن تكون هناك حاجة إلى الذكاء الاصطناعي لمراجعة الردود وأن رسائل البريد الإلكتروني كانت "في الأساس فحصًا لمعرفة ما إذا كان الموظف لديه نبض".

كما ذكر موقع Wired الشهر الماضي أن عملاء وزارة التعليم العالي قاموا بتحرير برنامج طورته وزارة الدفاع يُعرف باسم AutoRIF، أو التخفيض الآلي للقوة، والذي يمكن استخدامه لتصنيف الموظفين تلقائيًا للتخفيضات، وذلك نقلاً عن مصادر لم يتم الكشف عن هويتها.

في الأسبوع الماضي، قال 21 موظفًا في الخدمات الرقمية للولايات المتحدة (USDS) - الوكالة التي تطورت إلى وزارة DOGE في ظل إدارة ترامب - إنهم يستقيلون احتجاجًا على ذلك. لم تذكر المجموعة الذكاء الاصطناعي على وجه التحديد، لكنها قالت "لن نستخدم مهاراتنا كتقنيين لتعريض الأنظمة الحكومية الأساسية للخطر، أو تعريض بيانات الأمريكيين الحساسة للخطر، أو تفكيك الخدمات العامة الحيوية". وقد وجهت المجموعة رسالتها إلى رئيسة موظفي البيت الأبيض سوزان وايلز وشاركتها على الإنترنت.

وقد ردت السكرتيرة الصحفية للبيت الأبيض كارولين ليفيت على الاستقالات في بيان قالت فيه: "أي شخص يعتقد أن الاحتجاجات والدعاوى القضائية والحرب القانونية ستردع الرئيس ترامب لا بد أنه كان نائمًا تحت صخرة خلال السنوات العديدة الماضية"، وفقًا لما جاء في تقرير.

في منشور، وصف ماسك موظفي وزارة الدفاع الأمريكية الذين استقالوا بـ "الموظفين السياسيين الديمقراطيين الذين رفضوا العودة إلى المكتب".

قد يكون جزء من المشكلة هو أن بناء أداة ذكاء اصطناعي فعالة ومفيدة يتطلب فهماً عميقاً للبيانات المستخدمة لتدريبها، وهو ما قد لا يتوفر لدى فريق وزارة التعليم العالي الجديد وفقاً لأماندا رينتيريا، الرئيسة التنفيذية لمنظمة Code for America، وهي مجموعة غير ربحية تعمل مع الحكومات لبناء أدوات رقمية وزيادة قدراتها التقنية.

وقالت رينتيريا : "لا يمكنك تدريب (أداة الذكاء الاصطناعي) على نظام لا تعرفه جيداً"، لأن مخرجات الأداة قد لا تكون منطقية، أو قد تفتقد التقنية معلومات أو سياقاً حاسماً لاتخاذ القرار الصحيح. يمكن لأدوات الذكاء الاصطناعي أيضاً أن تخطئ في بعض الأمور أو أن تختلق أشياءً في بعض الأحيان - وهي مشكلة تُعرف باسم "الهلوسة". قد لا يكتشف شخص ليس على دراية بالبيانات التي يطلب من التقنية تحليلها تلك الأخطاء.

وقالت: "نظرًا لأن الأنظمة الحكومية قديمة، في كثير من الأحيان، لا يمكنك نشر تقنية جديدة عليها وتتوقع الحصول على النتائج الصحيحة".

Loading image...

في رسالتهم، قال الموظفون السابقون في دائرة الخدمات الحكومية الأمريكية إنهم قابلوا أشخاصًا يرتدون شارات زوار البيت الأبيض "أظهروا قدرة تقنية محدودة"، واتهموا دائرة الخدمات الحكومية بـ "إساءة التعامل مع البيانات الحساسة، وتعطيل الأنظمة الحساسة".

من بين الموظفين الذين يعملون في DOGE حفنة من الرجال في أوائل العشرينات من العمر وموظفين تم جلبهم من شركات ماسك الأخرى، حسبما ذكُر.

وقد قال البيت الأبيض إن إيمي غليسون - التي لديها خلفية في مجال الرعاية الصحية وعملت في وزارة الدفاع الأمريكية خلال فترة ولاية الرئيس دونالد ترامب الأولى - هي القائمة بأعمال مدير وزارة التعليم العالي والبحث العلمي، على الرغم من أن السكرتيرة الصحفية للبيت الأبيض كارولين ليفيت قالت إن ماسك يشرف على جهود المجموعة.

يوم الاثنين، قالت منظمة Democracy Forward، وهي منظمة أبحاث سياسية غير ربحية ذات ميول يسارية تركز على السلطة التنفيذية الأمريكية، إنها قدمت سلسلة من طلبات قانون حرية المعلومات كجزء من تحقيق في تقارير عن استخدام وزارة التعليم العام وإدارة ترامب للذكاء الاصطناعي. وقالت سكاي بيريمان، الرئيسة التنفيذية لمنظمة Democracy Forward، في بيان لها: "يستحق الشعب الأمريكي أن يعرف ما يجري - بما في ذلك ما إذا كان الذكاء الاصطناعي يُستخدم لإعادة تشكيل الإدارات والوكالات التي يعتمد عليها الناس يوميًا وكيف يتم ذلك."

مخاوف الذكاء الاصطناعي

تتشابه العديد من المخاوف المحيطة باستخدام وزارة التعليم العالي للذكاء الاصطناعي المبلغ عنها مع تلك المتعلقة باستخدام التكنولوجيا في أماكن أخرى، بما في ذلك أن التكنولوجيا يمكن أن تكرر التحيزات التي غالباً ما تكون موجودة بين البشر.

على سبيل المثال، ثبت أن بعض أدوات التوظيف التي تعتمد على الذكاء الاصطناعي أظهرت تفضيل المتقدمين من الذكور البيض على المرشحين الآخرين. وقد اتُهمت شركات التكنولوجيا الكبرى بالتمييز بسبب الطريقة التي تقدم بها خوارزمياتها إعلانات الوظائف أو الإسكان. وقد أدت تقنية التعرف على الوجه التي تعمل بالذكاء الاصطناعي التي تستخدمها الشرطة إلى اعتقالات خاطئة. وتعرضت العديد من أدوات الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي لانتقادات شديدة بسبب إنتاج صور غير دقيقة أو مسيئة لأعراق مختلفة.

قال هاريس إنه إذا كان الذكاء الاصطناعي يُستخدم الآن لتحديد الأدوار أو المشاريع التي يجب إلغاؤها من الحكومة، فقد يعني ذلك الاستغناء عن موظفين أو أعمال مهمة لمجرد شكلهم أو من يخدمونه، مضيفًا أن النساء والأشخاص الملونين قد يتأثرون سلبًا.

خذ، على سبيل المثال، فكرة استخدام الذكاء الاصطناعي لتقييم ردود البريد الإلكتروني من موظفي الحكومة الفيدرالية التي توضح إنجازاتهم الأسبوعية. قال هاريس إن ردود الموظفين الفيدراليين "الموهوبين حقًا" الذين ليست الإنجليزية لغتهم الأم "قد يفسرها نظام الذكاء الاصطناعي بشكل أقل إيجابية من كتابة شخص لغته الأم هي الإنجليزية".

وأضاف: "حتى لو لم يكن نظام الذكاء الاصطناعي مبرمجًا ليكون متحيزًا، فقد يظل يفضل التعابير الاصطلاحية أو نوع اللغة التي تستخدمها مجموعات معينة من الناس على مجموعات أخرى من الناس".

في حين أن طبيعة هذه المخاوف ليست جديدة، إلا أن التداعيات المحتملة لاستخدام الذكاء الاصطناعي لتحديد التخفيضات الحكومية الجماعية قد تكون أكثر خطورة مما هي عليه في أوضاع أخرى.

وقد أقرّ ماسك بأن وزارة التعليم العالي قد ترتكب أخطاء، وأنها قد ألغت بالفعل جهوداً حاسمة مثل الوقاية من الإيبولا، والتي قال إنها ستستعيدها. ليس من الواضح كيف أو ما إذا كان الذكاء الاصطناعي قد شارك في هذا القرار.

يقدم الذكاء الاصطناعي بالفعل مزايا معززة للكفاءة؛ حيث يمكنه تحليل كميات هائلة من المعلومات وتحليلها بسرعة. ولكن، إذا لم يتم استخدامه بعناية، فإنه يمكن أن يعرض البيانات الحكومية الحساسة أو المعلومات الشخصية للأشخاص للخطر، كما يقول الخبراء. فبدون الحماية المناسبة والقيود المفروضة على من يمكنه الوصول إلى النظام، يمكن أن تظهر البيانات التي يتم تغذية برنامج الذكاء الاصطناعي في استعلام ما بشكل غير متوقع في الردود على طلبات منفصلة - ربما لأشخاص لا ينبغي أن يكون لديهم إمكانية الوصول إليها.

يشعر هاريس بالقلق بشكل خاص بشأن تعامل وزارة التعليم العالي مع سجلات الموظفين، والتي وصفها بأنها من بين "أكثر أنواع الوثائق حساسية في أي مؤسسة".

وقال: "إن فكرة أن هذه المجموعة من الأشخاص الذين لم يتح لهم الوقت الكافي لتلقي الكثير من التدريب حول كيفية التعامل مع الوثائق الحساسة للغاية، لن يكون لديهم فجأة إمكانية الوصول إلى سجلات الموظفين من مجموعة واسعة من الوكالات العامة فحسب، بل سيكونون قادرين على استخدام تلك (السجلات) لاتخاذ قرارات فصل سريع، أمر مقلق للغاية".

وقالت رينتيريا إن عواقب التراخي في أمن البيانات من قبل الحكومة قد تكون كبيرة.

وقالت رينتيريا: "إذا فقدنا كمجتمع فكرة أن الحكومة ستعتني ببياناتك، على أقل تقدير، فإن ذلك سيبدأ حقًا في تحطيم الأشخاص الذين يقدمون الضرائب، والأشخاص الذين سيحصلون على المساعدات الغذائية".

ولكن ربما يكون مصدر القلق الأكثر إلحاحًا، كما يقول الخبراء، هو الافتقار إلى الشفافية حول استخدام وزارة التعليم العالي للذكاء الاصطناعي. ما هي أدوات الذكاء الاصطناعي المستخدمة؟ وكيف تم فحصها؟ وهل يشرف البشر على النتائج ويدققون فيها؟

قالت جوليا ستويانوفيتش، الأستاذة المشاركة في علوم الحاسوب ومديرة مركز الذكاء الاصطناعي المسؤولة في جامعة نيويورك، إنه لكي يكون الذكاء الاصطناعي فعّالاً، يجب أن يكون المستخدمون واضحين بشأن أهدافهم من هذه التكنولوجيا، وأن يختبروا بشكل كافٍ ما إذا كان نظام الذكاء الاصطناعي يلبي تلك الاحتياجات.

وقالت: "سأكون فضولية جدًا جدًا لسماع فريق DOGE يوضح كيف يقيسون الأداء، وكيف يقيسون صحة نتائجهم".