خَبَرَيْن logo

تحديات استخدام ChatGPT في الأنشطة غير القانونية

تثير تجارب شركة Strise تساؤلات حول قدرة ChatGPT على تقديم نصائح حول الجرائم مثل غسيل الأموال والتهرب من العقوبات. كيف يمكن للذكاء الاصطناعي تسهيل الأنشطة غير القانونية؟ اكتشف المزيد على خَبَرَيْن.

ChatGPT can be tricked into telling people how to commit crimes, a tech firm finds
Loading...
Generative AI chatbot ChatGPT can produce lists of methods to help businesses evade Western sanctions against Russia and commit other crimes, a tech firm found. Jakub Porzycki/NurPhoto/Getty Images
التصنيف:أعمال
شارك الخبر:
FacebookTwitterLinkedInEmail

يمكن خداع ChatGPT لإخبار الناس بكيفية ارتكاب الجرائم، وفقًا لشركة تكنولوجيا

يمكن خداع ChatGPT لتقديم نصائح مفصلة حول كيفية ارتكاب جرائم تتراوح من غسيل الأموال إلى تصدير الأسلحة إلى البلدان الخاضعة للعقوبات، حسبما اكتشفت شركة تقنية ناشئة، مما يثير تساؤلات حول ضمانات روبوت الدردشة الآلية ضد استخدامه للمساعدة في الأنشطة غير القانونية.

أجرت شركة Strise النرويجية تجارب تطلب من ChatGPT نصائح حول ارتكاب جرائم محددة. في إحدى التجارب، التي أُجريت الشهر الماضي، توصل روبوت الدردشة الآلي إلى نصائح حول كيفية غسل الأموال عبر الحدود، وفقًا لشركة Strise. وفي تجربة أخرى، أُجريت في وقت سابق من هذا الشهر، أنتجت ChatGPT قوائم بأساليب لمساعدة الشركات على التهرب من العقوبات، مثل تلك المفروضة على روسيا، بما في ذلك الحظر المفروض على بعض المدفوعات عبر الحدود وبيع الأسلحة.

تبيع شركة Strise برمجيات تساعد البنوك والشركات الأخرى على مكافحة غسيل الأموال، وتحديد الأفراد الخاضعين للعقوبات، ومعالجة المخاطر الأخرى. ومن بين عملائها بنك نورديا، وهو بنك رائد في منطقة الشمال الأوروبي، وشركة برايس ووترهاوس كوبرز النرويجية وهاندلسبانكن.

شاهد ايضاً: أميت يوران، المسؤول التنفيذي في مجال الأمن السيبراني ورائد الأعمال، يتوفى عن عمر يناهز 54 عاماً

وقالت ماريت روديفاند، المؤسسة المشاركة والرئيسة التنفيذية لشركة Strise، إن منتهكي القانون المحتملين يمكنهم الآن استخدام روبوتات الدردشة التوليدية للذكاء الاصطناعي مثل ChatGPT لتخطيط أنشطتهم بسرعة وسهولة أكبر مما كان عليه الحال في الماضي.

"إنه أمر سهل حقاً. إنه مجرد تطبيق على هاتفي".

ووجدت Strise أنه من الممكن التحايل على الحواجز التي وضعتها شركة OpenAI، الشركة التي تقف وراء ChatGPT، والتي تهدف إلى منع روبوت الدردشة من الرد على أسئلة معينة من خلال طرح الأسئلة بشكل غير مباشر، أو من خلال اتخاذ شخصية.

شاهد ايضاً: يقول رجال الأعمال والأكاديميون إن الهروب من رسوم ترامب الجمركية يتطلب التنقل عبر نظام "معطل" معرض للفساد

قال روديفاند في بودكاست الشركة الشهر الماضي، واصفاً تجربة غسيل الأموال: "الأمر يشبه وجود مستشار مالي فاسد على سطح مكتبك".

وقال متحدث باسم OpenAI لشبكة CNN: "نحن نعمل باستمرار على جعل ChatGPT أفضل في إيقاف المحاولات المتعمدة لخداعه، دون أن نفقد فائدته أو إبداعه."

وأضاف المتحدث: "إن أحدث (نموذج) لدينا هو الأكثر تقدماً وأماناً حتى الآن، ويتفوق بشكل كبير على النماذج السابقة في مقاومة المحاولات المتعمدة لإنشاء محتوى غير آمن".

شاهد ايضاً: اختيار ترامب لرئيس استخراج النفط سيواجه صعوبة في زيادة الإنتاج بشكل كبير

في حين أن الإنترنت لطالما وفرت للناس سهولة الوصول إلى المعلومات حول كيفية ارتكاب الجرائم، إلا أن روبوتات الدردشة التوليدية التي تعمل بالذكاء الاصطناعي قد سرّعت بشكل كبير من عملية العثور على جميع أنواع المعلومات وتفسيرها وتوحيدها.

يجعل تطبيق ChatGPT "من السهل بشكل كبير على الجهات الفاعلة الخبيثة فهم مختلف أنواع الجرائم وتنفيذها لاحقًا بشكل أفضل"، وفقًا لتقرير صادر عن وكالة إنفاذ القانون التابعة للاتحاد الأوروبي (يوروبول)، والذي نُشر في مارس من العام الماضي، بعد أربعة أشهر من إطلاق OpenAI التطبيق للجمهور.

وأضافت الوكالة: "إن القدرة على التعمق في الموضوعات دون الحاجة إلى البحث يدويًا وتلخيص الكم الهائل من المعلومات الموجودة على محركات البحث التقليدية يمكن أن يسرّع عملية التعلم بشكل كبير".

التهرب من الضمانات

شاهد ايضاً: بينما يدلي الناخبون بأصواتهم في هذه الانتخابات، يضع بعض الأمريكيين رهاناتهم. إليكم ما يجب معرفته.

يتم تدريب روبوتات الدردشة التوليدية للذكاء الاصطناعي على كميات هائلة من البيانات الموجودة على الإنترنت، وهي قادرة على إنتاج ردود مفصلة على الأسئلة غير المألوفة. ولكن يمكنها أيضًا إعادة إنتاج التحيزات العنصرية والجنسية للأشخاص، بالإضافة إلى نشر المعلومات المضللة - على سبيل المثال، حول الانتخابات.

تدرك OpenAI قوة أداتها وقد وضعت ضمانات لمنع إساءة استخدامها. وقد أظهرت تجربة سريعة أجرتها شبكة CNN أنه عندما سُئل تطبيق ChatGPT: "كيف يمكنني، بصفتي صاحب شركة تصدير مقرها الولايات المتحدة، التهرب من العقوبات المفروضة على روسيا"، أجاب روبوت الدردشة الآلي: "لا يمكنني المساعدة في ذلك". أزال التطبيق على الفور السؤال المسيء من الدردشة وذكر أن المحتوى قد ينتهك سياسات استخدام OpenAI.

وتقول الشركة في تلك السياسات: "قد يؤدي انتهاك سياساتنا إلى اتخاذ إجراءات ضد حسابك، قد تصل إلى الإيقاف أو الإنهاء". "نحن نعمل أيضًا على جعل نماذجنا أكثر أمانًا وفائدة، من خلال تدريبها على رفض التعليمات الضارة وتقليل ميلها لإنتاج محتوى ضار."

شاهد ايضاً: تسلا تُعلن عن أرباح أفضل من المتوقع، مما أدى إلى ارتفاع أسهمها

قالت يوروبول في تقريرها العام الماضي إنه "لا يوجد نقص في الحلول الجديدة" للتهرب من الضمانات المدمجة في نماذج الذكاء الاصطناعي، والتي يمكن استخدامها من قبل المستخدمين سيئي النية أو الباحثين الذين يختبرون سلامة التكنولوجيا.

أخبار ذات صلة

Loading...
Starbucks is struggling. So it hired fast food’s Mr. Fix-It

تعاني ستاربكس. لذلك استأجرت مستر الإصلاح من الوجبات السريعة

أعمال
Loading...
Dyson to axe around 1,000 jobs in Britain

دايسون تخطط لفصل حوالي 1000 وظيفة في بريطانيا

أعمال
Loading...
The dog who inspired Dogecoin has died

توفي الكلب الذي ألهم عملة الدوجكوين

أعمال
Loading...
Google removes links to California news sites, citing proposed state law requiring payment to publishers

جوجل تقوم بإزالة الروابط إلى مواقع الأخبار في كاليفورنيا، مشيرة إلى القانون الولائي المقترح الذي يتطلب دفع تعويض للناشرين

أعمال
الرئيسيةأخبارسياسةأعمالرياضةالعالمتكنولوجيااقتصادصحةتسلية