تحقق من الحقائق في عصر المعلومات المضللة

في 9 يونيو، بعد فترة وجيزة من إرسال الرئيس الأمريكي دونالد ترامب قوات الحرس الوطني الأمريكي إلى لوس أنجلوس لقمع الاحتجاجات التي تجري بسبب مداهمات المهاجرين، نشر حاكم ولاية كاليفورنيا غافين نيوسوم صورتين على موقع X. وأظهرت الصور عشرات الجنود الذين يرتدون زي الحرس الوطني وهم نائمون على الأرض في مكان ضيق، مع تعليق يندد بترامب لعدم احترامه للقوات.

لجأ مستخدمو X على الفور إلى Grok، وهو برنامج الذكاء الاصطناعي الخاص بإيلون ماسك، المدمج مباشرة في X، للتحقق من صحة الصورة. لذلك، قاموا بوضع علامة @grok في رد على التغريدة المعنية، مما أدى إلى استجابة تلقائية من الذكاء الاصطناعي.

نشر أحد المستخدمين: "أنت تشارك صورًا مزيفة"، مستشهدًا بلقطة شاشة لرد Grok الذي ادعى أن البحث العكسي عن الصور لم يتمكن من العثور على المصدر الدقيق. وفي حالة أخرى، قال غروك إن الصور أعيد تدويرها من عام 2021، عندما سحب الرئيس الأمريكي السابق جو بايدن، وهو ديمقراطي، قواته من أفغانستان. واستشهدت ميليسا أوكونور، وهي شخصية مؤثرة ذات عقلية مؤامراتية، بتحليل موقع ChatGPT الذي قال أيضًا أن الصور كانت من عملية الإجلاء من أفغانستان.

ومع ذلك، وجدت منظمة بوليتي فاكت غير الحزبية للتدقيق في الحقائق أن كلا الاستشهادين غير صحيحين. كانت الصور التي شاركها نيوسوم حقيقية، ونُشرت في صحيفة سان فرانسيسكو كرونيكل.

وشكلت عمليات التحقق من الحقائق الخاطئة من مصادر الروبوتات أساسًا لساعات من المناقشات النشاز على موقع X، قبل أن تصحح Grok نفسها.

على عكس تطبيق OpenAI المستقل ChatGPT، فإن دمج Grok في X يتيح للمستخدمين الوصول الفوري إلى إجابات الذكاء الاصطناعي في الوقت الفعلي دون الحاجة إلى إنهاء التطبيق، وهي ميزة تعيد تشكيل سلوك المستخدم منذ إطلاقه في مارس. ومع ذلك، فإن المحطة الأولى المتزايدة للتحقق من الحقائق أثناء الأخبار العاجلة أو المنشورات العامة الأخرى غالبًا ما تقدم إجابات مقنعة ولكنها غير دقيقة.

تقول ثيودورا سكاداس، خبيرة سياسات الذكاء الاصطناعي التي كانت تعمل سابقًا في تويتر: "أعتقد أن ذلك يساعد في بعض النواحي، ولا يساعد في نواحٍ أخرى". "لدى الناس إمكانية وصول أكبر إلى الأدوات التي يمكن أن تخدم وظيفة التحقق من الحقائق، وهو أمر جيد. ومع ذلك، من الصعب معرفة متى تكون المعلومات غير دقيقة."

ليس هناك من ينكر أن روبوتات الدردشة الآلية يمكن أن تساعد المستخدمين على أن يكونوا أكثر اطلاعًا وأن يحصلوا على سياق الأحداث التي تتكشف في الوقت الفعلي. ولكن في الوقت الحالي، يفوق ميلها إلى اختلاق الأشياء فائدتها.

إن روبوتات الدردشة الآلية، بما في ذلك روبوتات الدردشة التفاعلية ChatGPT وجيميني من جوجل، هي نماذج لغوية كبيرة تتعلم التنبؤ بالكلمة التالية في تسلسل ما من خلال تحليل مجموعات هائلة من البيانات من الإنترنت. إن مخرجات روبوتات الدردشة الآلية هي انعكاس للأنماط والتحيزات في البيانات التي يتم تدريبها عليها، مما يجعلها عرضة للأخطاء الواقعية والمعلومات المضللة التي تسمى "الهلوسة".

بالنسبة لـ Grok، تزداد هذه التحديات المتأصلة تعقيداً بسبب تعليمات ماسك التي تنص على أن روبوت الدردشة الآلي يجب ألا يلتزم بالصواب السياسي، ويجب أن يكون متشككاً في المصادر السائدة. وفي حين أن نماذج الذكاء الاصطناعي الأخرى لديها إرشادات حول الاستفسارات الحساسة سياسياً، فإن Grok لا يملك هذه الإرشادات. وقد أدى عدم وجود حواجز وقائية إلى قيام Grok بمدح هتلر، وترديده باستمرار وجهات نظر معادية للسامية، وأحيانًا لأسئلة المستخدم التي لا علاقة لها بالموضوع.

بالإضافة إلى ذلك، فإن اعتماد Grok على المنشورات العامة التي ينشرها المستخدمون على X، والتي لا تكون دقيقة دائمًا، كمصدر لإجاباتها في الوقت الحقيقي لبعض عمليات التحقق من الحقائق، يضيف إلى مشكلة التضليل.

"حبيسة غرفة صدى المعلومات المضللة "

تحليل اثنين من أكثر المنشورات التي تمت مناقشتها على X من شهر يونيو للتحقيق في عدد المرات التي تم فيها استخدام علامات Grok في الردود على المنشورات للتحقق من الحقائق. كانت المنشورات التي تم تحليلها هي منشور غافين نيوسوم حول احتجاجات لوس أنجلوس، ومزاعم إيلون ماسك بأن اسم ترامب يظهر في الوثائق التي لم يتم نشرها لدى السلطات الفيدرالية الأمريكية حول المعتدي الجنسي المدان جيفري إبشتاين. وقد حُذفت مزاعم ماسك على X منذ ذلك الحين.

وقد وجد تحليلنا للردود الـ 434 التي أشارت إلى غروك في منشور نيوسوم أن غالبية الطلبات، حوالي 68 في المئة، أرادت من غروك إما تأكيد ما إذا كانت الصور التي نشرها نيوسوم أصلية أو الحصول على سياق حول نشر الحرس الوطني.

وبعيدًا عن التأكيد المباشر، كان هناك مزيج انتقائي من الطلبات: أراد البعض من Grok أن يقوم Grok بعمل صور مضحكة بالذكاء الاصطناعي بناءً على المنشور، وطلب آخرون من Grok أن يروي احتجاجات لوس أنجلوس بلغة القراصنة. والجدير بالذكر أن بعض المستخدمين غضبوا لأن Grok قام بالتصحيح، ولم يؤيدوا اعتقادهم الخاطئ.

"هذه الصور من أفغانستان. تم فضح زيف هذا الأمر قبل يومين s. محاولة جيدة على الرغم من أن @grok مليئة بالأكاذيب"، كتب أحد المستخدمين، بعد يومين من تصحيح Grok نفسه.

كشف تحليل أعلى 3000 مشاركة ذكرت @grok في منشور ماسك أن نصف استفسارات المستخدمين الموجهة إلى غروك كانت "لشرح" السياق وطلب معلومات أساسية عن ملفات إبستين، والتي تتطلب تفاصيل وصفية.

وطالبت 20 في المئة أخرى من الاستفسارات بـ "التحقق من الحقائق" التي كان هدفها الأساسي تأكيد أو نفي تأكيدات ماسك، بينما شارك 10 في المئة من المستخدمين "رأيهم" مشككين في دوافع ماسك ومصداقيته، وأرادوا حكم غروك أو تكهناته حول المستقبل المحتمل لتداعيات ماسك وترامب.

قال أليكسيوس مانتزارليس، مدير مبادرة الأمن والثقة والسلامة في كورنيل للتكنولوجيا، حول عمليات التحقق الفوري من الحقائق: "سأقول إنني قلق من أن تصبح هذه الظاهرة متأصلة". "حتى لو كان ذلك أفضل من مجرد تصديق تغريدة مباشرة أو توجيه الإساءات إلى صاحب التغريدة، إلا أن توقع التحقق الفوري من الحقائق دون أخذ الوقت الكافي للتفكير في المحتوى الذي نراه لا يفيد كثيرًا قدراتنا الجماعية على التفكير النقدي".

تم استدعاء Grok 2.3 مليون مرة في أسبوع واحد فقط _ بين 5 يونيو و 12 يونيو _ للرد على المنشورات على X، كما تظهر البيانات التي حصلت عليها الجزيرة من خلال واجهة برمجة التطبيقات الخاصة بـ X، مما يؤكد مدى تجذر هذا السلوك.

قال أليكس ماهاديفان، معلم محو الأمية الإعلامية في معهد بوينتر، للجزيرة: "يبقي X الناس محبوسين في غرفة صدى المعلومات المضللة، حيث يطلبون من أداة معروفة بالهلوسة، والتي روجت لنظريات المؤامرة العنصرية، أن تتحقق من الحقائق نيابة عنهم".

لقد أمضى ماهاديفان سنوات في تعليم الناس كيفية "القراءة الجانبية"، وهو ما يعني أنه عندما تصادف معلومات على وسائل التواصل الاجتماعي، فإنك تترك الصفحة أو المنشور وتذهب للبحث عن مصادر موثوقة للتحقق من شيء ما. لكنه يرى الآن أن العكس يحدث مع Grok. "لم أكن أعتقد أن X يمكن أن يصبح أسوأ من ذلك بالنسبة لمنظومة المعلومات على الإنترنت، وكل يوم يثبت لي أنني مخطئ."

تناقضات Grok في التحقق من الحقائق تعيد بالفعل تشكيل الآراء في بعض زوايا الإنترنت. قام مختبر أبحاث الطب الشرعي الرقمي (DFRLab)، الذي يدرس المعلومات المضللة، بتحليل 130,000 منشور متعلق بـ الحرب الإسرائيلية الإيرانية لفهم فعالية التحقق من صحة المعلومات في زمن الحرب التي قام بها غروك. وأشار المؤلفون إلى أن "التحقيق وجد أن Grok لم يكن متسقًا في التحقق من الحقائق، حيث كافح للتحقق من صحة الوسائط التي تم إنشاؤها بواسطة الذكاء الاصطناعي أو تحديد ما إذا كانت حسابات X تنتمي إلى مصدر حكومي إيراني رسمي".

كما ألقى Grok باللوم بشكل غير صحيح على طيار متحول جنسيًا في حادث تحطم طائرة هليكوبتر في واشنطن العاصمة؛ وادعى أن محاولة اغتيال ترامب كانت مدبرة جزئيًا؛ واستحضر تاريخًا إجراميًا لمشتبه به في إطلاق النار في ولاية أيداهو؛ وردد الصور النمطية المعادية للسامية في هوليوود؛ وأخطأ في تحديد هوية صحفي هندي كجاسوس معارض خلال النزاع الأخير بين الهند وباكستان.

وعلى الرغم من هذا التحول السلوكي المتزايد للتحقق الفوري من الحقائق، تجدر الإشارة إلى أن تقرير الأخبار الرقمية لعام 2025 الصادر عن معهد رويترز أظهر أن سكان الإنترنت في العديد من البلدان لا يزالون يفضلون الذهاب إلى مصادر الأخبار أو مدققي الحقائق على روبوتات الدردشة الآلية التي تعمل بالذكاء الاصطناعي بفارق كبير.

وقال مانتزارليس: "حتى لو لم تكن هذه هي الطريقة التي يتصرف بها الجميع، يجب أن نعترف بأن بعض "التغريدات التي نراها على @grok-ing" هي أيضًا نوع من الميمي، حيث يستخدمها بعض الأشخاص للتعبير عن عدم الموافقة أو على أمل إثارة رد فعل غارق في التغريدة الأصلية".

ويتردد صدى تقييم مانتزارليس في النتائج التي توصلنا إليها. وأظهر الخلاف بين ماسك وترامب أن حوالي 20 في المئة استخدموا Grok لأشياء تتراوح بين [التصيد أو التغميس الموجه إلى ماسك أو Grok نفسه، وطلبات صور ميمية للذكاء الاصطناعي مثل ترامب مع الأطفال في جزيرة إبستين، وطلبات أخرى بغير اللغة الإنجليزية بما في ذلك الترجمات. (استخدمنا برنامج GPT-4.1 للمساعدة في تحديد الفئات المختلفة التي تنتمي إليها الـ 3000 مشاركة، وقمنا بالتحقق يدويًا من التصنيفات).

وبالإضافة إلى التحقق من الحقائق في الوقت الحقيقي، قال مانتزارليس: "أكثر ما يقلقني هو إساءة استخدام الصور المزيّفة لأننا رأينا أن Grok فشل في وضع حواجز الحماية الصحيحة على الصور الحميمة الاصطناعية غير المتوافقة، والتي نعلم أنها الناقل الأول لإساءة الاستخدام من التزييف العميق حتى الآن".

غروك مقابل ملاحظات المجتمع

لسنوات، استفاد مستخدمو وسائل التواصل الاجتماعي لسنوات من سياق المعلومات التي يواجهونها على الإنترنت مع تدخلات مثل وضع علامات على وسائل الإعلام الحكومية أو تقديم تحذيرات للتحقق من الحقائق.

ولكن بعد شراء X في عام 2022، أنهى ماسك تلك المبادرات وخفف من القيود المفروضة على الكلام. كما استخدم المنصة كمكبر صوت لتضخيم المعلومات المضللة حول التزوير الانتخابي واسع النطاق، ولتعزيز النظريات المحافظة حول العرق والهجرة. وفي وقت سابق من هذا العام، استحوذت شركة xAI على شركة X في صفقة استحواذ في صفقة بلغت قيمتها 80 مليار دولار. كما استبدل ماسك أيضًا برنامجًا تطوعيًا للتحقق من الحقائق البشرية ببرنامج تطوعي جماعي يسمى "ملاحظات المجتمع" لمراقبة المحتوى المضلل على X.

فبدلاً من وجود سلطة مركزية محترفة للتحقق من الحقائق، تتم إضافة "ملاحظة" سياقية مع تصحيحات على المنشورات المضللة، بناءً على التقييمات التي تتلقاها الملاحظة من المستخدمين ذوي وجهات النظر المتنوعة. وسرعان ما اتبعت Meta موقع X وتخلت عن برنامج التحقق من الحقائق التابع لجهة خارجية لصالح "ملاحظات المجتمع".

تُظهر الأبحاث أن ملاحظات المجتمع تُعتبر بالفعل أكثر جدارة بالثقة وأثبتت أنها أسرع من التدقيق المركزي التقليدي للحقائق. فقد انخفض متوسط الوقت اللازم لإرفاق ملاحظة بمنشور مضلل إلى أقل من 14 ساعة في فبراير من 30 ساعة في عام 2023، حسبما وجد تحليل أجرته بلومبرج.

لكن البرنامج كان متعثرًا أيضًا مع انخفاض مساهمات المتطوعين، وتراجع ظهور المنشورات التي يتم تصحيحها، وزيادة فرصة إزالة الملاحظات حول الموضوعات المثيرة للجدل.

ومع ذلك، فإن Grok أسرع من ملاحظات المجتمع. "يمكنك التفكير في إشارات غروك اليوم على أنها ما سيبدو عليه مدقق الحقائق الآلي للذكاء الاصطناعي إنه سريع للغاية ولكنه ليس موثوقًا مثل ملاحظات المجتمع لأنه لا يوجد بشر." قال سهام دي، باحث في ملاحظات المجتمع وطالب دكتوراه في جامعة واشنطن، . "هناك توازن دقيق بين السرعة والموثوقية."

تحاول X سد هذه الفجوة من خلال زيادة سرعة إنشاء الملاحظات السياقية. في 1 يوليو، قامت X بتجربة "كاتب الملاحظات بالذكاء الاصطناعي"، مما يتيح للمطورين إنشاء روبوتات ذكاء اصطناعي لكتابة ملاحظات المجتمع جنبًا إلى جنب مع المساهمين البشر في المنشورات المضللة.

ووفقًا للباحثين المشاركين في المشروع، يمكن إنتاج الملاحظات المكتوبة بالذكاء الاصطناعي بشكل أسرع مع سياقات عالية الجودة، مما يسرع من توليد الملاحظات للتحقق من الحقائق.

ولكن لا يزال يتعين على مساهمي الذكاء الاصطناعي هؤلاء أن يخضعوا لعملية التقييم البشري التي تجعل من ملاحظات المجتمع جديرة بالثقة والموثوقية اليوم، بحسب دي. يعمل هذا النظام المشترك بين الإنسان والذكاء الاصطناعي بشكل أفضل مما يمكن للمساهمين البشريين إدارته بمفردهم، كما قال دي والمؤلفون المشاركون الآخرون في نسخة مسبقة من الورقة البحثية المنشورة إلى جانب الإعلان الرسمي X.

ومع ذلك، فقد سلط الباحثون أنفسهم الضوء على محدوديته، مشيرين إلى أن استخدام الذكاء الاصطناعي لكتابة الملاحظات قد يؤدي إلى مخاطر الإجابات المقنعة ولكن غير الدقيقة من قبل LLM.

غروك مقابل مسك

في يوم الأربعاء، أطلقت xAI أحدث طرازاتها الرائدة، Grok 4. على خشبة المسرح، تفاخر ماسك بقدرات النموذج الحالي باعتباره الرائد في اختبار البشرية الأخير، وهي مجموعة من مشاكل التفكير المتقدم التي تساعد في قياس تقدم الذكاء الاصطناعي.

وقد كذبت هذه الثقة الصراعات الأخيرة مع Grok. في فبراير، قامت xAI بتصحيح مشكلة بعد أن اقترح Grok أن ترامب وماسك يستحقان عقوبة الإعدام. وفي شهر مايو/أيار، صرخ غروك حول مؤامرة فاقدة للمصداقية عن اضطهاد البيض في جنوب أفريقيا بسبب استفسارات لا علاقة لها بالصحة والرياضة، وأوضحت xAI أن ذلك كان بسبب تعديل غير مصرح به من قبل موظف مارق. وبعد أيام قليلة، أعطى Grok نتائج غير دقيقة عن عدد القتلى في الهولوكوست، وقال إن ذلك كان بسبب خطأ في البرمجة.

اصطدمت Grok أيضًا مع ماسك. في يونيو، أثناء إجابته على سؤال أحد المستخدمين حول ما إذا كان العنف السياسي أعلى في اليسار أم اليمين، استشهد Grok ببيانات من مصادر حكومية ورويترز، ليخلص إلى استنتاج مفاده أن "العنف السياسي اليميني كان أكثر تواترًا وفتكًا، مع وقوع حوادث مثل أعمال الشغب في 6 يناير في الكابيتول وحوادث إطلاق النار الجماعي".

"فشل كبير، لأن هذا خطأ موضوعي. إن غروك يردد كالببغاء وسائل الإعلام القديمة"، مضيفًا: "هناك الكثير من القمامة في أي نموذج أساس تم تدريبه على بيانات غير مصححة".

ووبخ ماسك أيضًا جروك لعدم مشاركته عدم ثقته في المنافذ الإخبارية السائدة مثل رولينج ستون و"ميديا ماترز". في وقت لاحق، قال ماسك إنه "سيعيد كتابة مجموعة المعرفة البشرية بأكملها" عن طريق إضافة المعلومات المفقودة وحذف الأخطاء في بيانات تدريب جروك، داعيًا متابعيه إلى مشاركة "الحقائق المثيرة للانقسام" التي "غير صحيحة سياسيًا ولكنها مع ذلك صحيحة واقعيًا" لإعادة تدريب النسخة القادمة على النموذج.

هذه هي الحقيقة الشائكة في "ل.ل.م". فكما أنه من المحتمل أن يختلقوا الأشياء، يمكنهم أيضًا تقديم إجابات تستند إلى الحقيقة حتى وإن كان ذلك على حساب صانعيها. قال ماهاديفان من معهد بوينتر إنه على الرغم من أن Grok يخطئ في بعض الأمور، إلا أنه يصحح الحقائق مع الاستشهاد بمنافذ الأخبار الموثوقة ومواقع التحقق من الحقائق والبيانات الحكومية في ردوده.

في 6 يوليو، قامت xAI بتحديث مطالبة النظام العام لروبوت الدردشة الآلي الذي يوجه ردوده بأن تكون "غير صحيحة سياسياً" و "افتراض وجهات النظر غير الموضوعية المستقاة من وسائل الإعلام متحيزة".

وبعد ذلك بيومين، صدم روبوت الدردشة الآلي الجميع بإشادته بأدولف هتلر كأفضل شخص للتعامل مع "الكراهية ضد البيض". قام X بحذف المنشورات التحريضية في وقت لاحق من ذلك اليوم، وحذفت xAI الإرشادات الخاصة بعدم الالتزام بالصواب السياسي من قاعدة التعليمات البرمجية الخاصة بها.

تم إطلاق Grok 4 على هذه الخلفية، وفي أقل من يومين من إتاحته، بدأ الباحثون بالفعل في ملاحظة بعض التعديلات الغريبة.

عندما يُطلب منه إبداء رأيه في أسئلة حساسة سياسياً مثل من يدعم Grok 4 في الصراع الإسرائيلي الفلسطيني الدائر، فإنه يجري أحياناً بحثاً لمعرفة موقف ماسك من هذا الموضوع، قبل أن يعيد الإجابة، وفقاً لخمسة باحثين في مجال الذكاء الاصطناعي على الأقل قاموا بإعادة إنتاج النتائج بشكل مستقل.

"يبحث أولاً في تويتر عن رأي إيلون. ثم يبحث في الويب عن آراء إيلون. وأخيرًا، يضيف بعض الأجزاء غير المتعلقة بإيلون في النهاية"، كما كتب جيريمي هوارد، عالم البيانات الأسترالي البارز، في منشور على موقع X، مشيرًا إلى أن "54 من أصل 64 استشهادًا تدور حول إيلون".

كما أعرب الباحثون أيضًا عن دهشتهم من إعادة تقديم التوجيه الخاص بـ Grok 4 ليكون "غير صحيح سياسيًا"، على الرغم من إزالة هذا الرمز من سابقه، Grok 3.

وقال الخبراء إن التلاعب السياسي قد يهدد بفقدان الثقة المؤسسية وقد لا يكون جيدًا لأعمال Grok.

قال ألكسندر هوارد، وهو مدافع عن الحكومة المفتوحة والشفافية ومقره واشنطن العاصمة: "هناك صدام هيكلي على وشك أن يحدث، حيث يحاول ماسك أن يجعل الناس في xAI يتوقفون عن الاستيقاظ، والتوقف عن قول أشياء تتعارض مع فكرته عن الحقيقة الموضوعية". "وفي هذه الحالة، لن يكون ذلك مجديًا تجاريًا للشركات التي تحتاج في نهاية المطاف إلى حقائق دقيقة لاتخاذ القرارات."