خَبَرَيْن logo
ارتفاع عدد ضحايا الفيضانات في إسبانيا إلى 158 مع استمرار جهود الإنقاذ للعثور على الناجينتزايد ظهور تماثيل معارضة لترامب في الولايات المتحدة، وفنان مجهول مرتبط بالمشروع يتوقع المزيد منها.حزب بوتسوانا الحاكم يخسر السلطة بعد ستة عقود، وفقًا للنتائج الأوليةالمحاكمة تبدأ للقديس البحري دانيال بيني بتهمة القتل غير العمد في وفاة جوردان نيلي نتيجة الخنق في مترو نيويوركتعديل تصريحات بايدن "السخيفة" من قبل البيت الأبيضجينيفر لوبيز: "كل لاتيني في هذا البلد شعر بالإهانة من تجمع ترامب في ماديسون سكوير غاردن"الميكروفوسيلات في أقدم شاهد قبر في أمريكا تكشف أسرار المستوطنة الإنجليزية الأولىسكارليت جوهانسون تجمع أبطال "المنتقمون" لتحفيز الناخبين لصالح كامالا هاريس"آرت المهرج من 'تيريفير 3' يثير الرعب في ناسداك خلال احتفالات الهالوين كضيف في مراسم جرس الإغلاق"هيئة المحلفين الكبرى في قضية شون "ديدي" كومbs تستمع لشاهد يدعي أنه يمتلك لقطات تظهر كومbs وهو يستهدف مشاهير محتملين
ارتفاع عدد ضحايا الفيضانات في إسبانيا إلى 158 مع استمرار جهود الإنقاذ للعثور على الناجينتزايد ظهور تماثيل معارضة لترامب في الولايات المتحدة، وفنان مجهول مرتبط بالمشروع يتوقع المزيد منها.حزب بوتسوانا الحاكم يخسر السلطة بعد ستة عقود، وفقًا للنتائج الأوليةالمحاكمة تبدأ للقديس البحري دانيال بيني بتهمة القتل غير العمد في وفاة جوردان نيلي نتيجة الخنق في مترو نيويوركتعديل تصريحات بايدن "السخيفة" من قبل البيت الأبيضجينيفر لوبيز: "كل لاتيني في هذا البلد شعر بالإهانة من تجمع ترامب في ماديسون سكوير غاردن"الميكروفوسيلات في أقدم شاهد قبر في أمريكا تكشف أسرار المستوطنة الإنجليزية الأولىسكارليت جوهانسون تجمع أبطال "المنتقمون" لتحفيز الناخبين لصالح كامالا هاريس"آرت المهرج من 'تيريفير 3' يثير الرعب في ناسداك خلال احتفالات الهالوين كضيف في مراسم جرس الإغلاق"هيئة المحلفين الكبرى في قضية شون "ديدي" كومbs تستمع لشاهد يدعي أنه يمتلك لقطات تظهر كومbs وهو يستهدف مشاهير محتملين

تحديات استخدام ChatGPT في الأنشطة غير القانونية

تثير تجارب شركة Strise تساؤلات حول قدرة ChatGPT على تقديم نصائح حول الجرائم مثل غسيل الأموال والتهرب من العقوبات. كيف يمكن للذكاء الاصطناعي تسهيل الأنشطة غير القانونية؟ اكتشف المزيد على خَبَرَيْن.

Loading...
ChatGPT can be tricked into telling people how to commit crimes, a tech firm finds
Generative AI chatbot ChatGPT can produce lists of methods to help businesses evade Western sanctions against Russia and commit other crimes, a tech firm found. Jakub Porzycki/NurPhoto/Getty Images
التصنيف:أعمال
شارك الخبر:
FacebookTwitterLinkedInEmail

يمكن خداع ChatGPT لإخبار الناس بكيفية ارتكاب الجرائم، وفقًا لشركة تكنولوجيا

يمكن خداع ChatGPT لتقديم نصائح مفصلة حول كيفية ارتكاب جرائم تتراوح من غسيل الأموال إلى تصدير الأسلحة إلى البلدان الخاضعة للعقوبات، حسبما اكتشفت شركة تقنية ناشئة، مما يثير تساؤلات حول ضمانات روبوت الدردشة الآلية ضد استخدامه للمساعدة في الأنشطة غير القانونية.

أجرت شركة Strise النرويجية تجارب تطلب من ChatGPT نصائح حول ارتكاب جرائم محددة. في إحدى التجارب، التي أُجريت الشهر الماضي، توصل روبوت الدردشة الآلي إلى نصائح حول كيفية غسل الأموال عبر الحدود، وفقًا لشركة Strise. وفي تجربة أخرى، أُجريت في وقت سابق من هذا الشهر، أنتجت ChatGPT قوائم بأساليب لمساعدة الشركات على التهرب من العقوبات، مثل تلك المفروضة على روسيا، بما في ذلك الحظر المفروض على بعض المدفوعات عبر الحدود وبيع الأسلحة.

تبيع شركة Strise برمجيات تساعد البنوك والشركات الأخرى على مكافحة غسيل الأموال، وتحديد الأفراد الخاضعين للعقوبات، ومعالجة المخاطر الأخرى. ومن بين عملائها بنك نورديا، وهو بنك رائد في منطقة الشمال الأوروبي، وشركة برايس ووترهاوس كوبرز النرويجية وهاندلسبانكن.

شاهد ايضاً: الاتحاد الأوروبي يزيد الرسوم الجمركية على السيارات الكهربائية الصينية، مما أثار ردود فعل غاضبة من بكين

وقالت ماريت روديفاند، المؤسسة المشاركة والرئيسة التنفيذية لشركة Strise، إن منتهكي القانون المحتملين يمكنهم الآن استخدام روبوتات الدردشة التوليدية للذكاء الاصطناعي مثل ChatGPT لتخطيط أنشطتهم بسرعة وسهولة أكبر مما كان عليه الحال في الماضي.

"إنه أمر سهل حقاً. إنه مجرد تطبيق على هاتفي".

ووجدت Strise أنه من الممكن التحايل على الحواجز التي وضعتها شركة OpenAI، الشركة التي تقف وراء ChatGPT، والتي تهدف إلى منع روبوت الدردشة من الرد على أسئلة معينة من خلال طرح الأسئلة بشكل غير مباشر، أو من خلال اتخاذ شخصية.

شاهد ايضاً: فينس مكمان، الرئيس التنفيذي السابق لوحدة المصارعة العالمية، يواجه دعوى قضائية بتهمة تمكين الاعتداءات الجنسية

قال روديفاند في بودكاست الشركة الشهر الماضي، واصفاً تجربة غسيل الأموال: "الأمر يشبه وجود مستشار مالي فاسد على سطح مكتبك".

وقال متحدث باسم OpenAI لشبكة CNN: "نحن نعمل باستمرار على جعل ChatGPT أفضل في إيقاف المحاولات المتعمدة لخداعه، دون أن نفقد فائدته أو إبداعه."

وأضاف المتحدث: "إن أحدث (نموذج) لدينا هو الأكثر تقدماً وأماناً حتى الآن، ويتفوق بشكل كبير على النماذج السابقة في مقاومة المحاولات المتعمدة لإنشاء محتوى غير آمن".

شاهد ايضاً: نمو خدمات سيارات الأجرة الجوية يتطلب إنشاء مراكز عمودية فعالة وأنظمة متطورة للتحكم في الحركة الجوية

في حين أن الإنترنت لطالما وفرت للناس سهولة الوصول إلى المعلومات حول كيفية ارتكاب الجرائم، إلا أن روبوتات الدردشة التوليدية التي تعمل بالذكاء الاصطناعي قد سرّعت بشكل كبير من عملية العثور على جميع أنواع المعلومات وتفسيرها وتوحيدها.

يجعل تطبيق ChatGPT "من السهل بشكل كبير على الجهات الفاعلة الخبيثة فهم مختلف أنواع الجرائم وتنفيذها لاحقًا بشكل أفضل"، وفقًا لتقرير صادر عن وكالة إنفاذ القانون التابعة للاتحاد الأوروبي (يوروبول)، والذي نُشر في مارس من العام الماضي، بعد أربعة أشهر من إطلاق OpenAI التطبيق للجمهور.

وأضافت الوكالة: "إن القدرة على التعمق في الموضوعات دون الحاجة إلى البحث يدويًا وتلخيص الكم الهائل من المعلومات الموجودة على محركات البحث التقليدية يمكن أن يسرّع عملية التعلم بشكل كبير".

التهرب من الضمانات

شاهد ايضاً: يعتقد الناخبون أن اقتصاد أمريكا في حالة سيئة، ولا شيء سيتغير قبل الانتخابات.

يتم تدريب روبوتات الدردشة التوليدية للذكاء الاصطناعي على كميات هائلة من البيانات الموجودة على الإنترنت، وهي قادرة على إنتاج ردود مفصلة على الأسئلة غير المألوفة. ولكن يمكنها أيضًا إعادة إنتاج التحيزات العنصرية والجنسية للأشخاص، بالإضافة إلى نشر المعلومات المضللة - على سبيل المثال، حول الانتخابات.

تدرك OpenAI قوة أداتها وقد وضعت ضمانات لمنع إساءة استخدامها. وقد أظهرت تجربة سريعة أجرتها شبكة CNN أنه عندما سُئل تطبيق ChatGPT: "كيف يمكنني، بصفتي صاحب شركة تصدير مقرها الولايات المتحدة، التهرب من العقوبات المفروضة على روسيا"، أجاب روبوت الدردشة الآلي: "لا يمكنني المساعدة في ذلك". أزال التطبيق على الفور السؤال المسيء من الدردشة وذكر أن المحتوى قد ينتهك سياسات استخدام OpenAI.

وتقول الشركة في تلك السياسات: "قد يؤدي انتهاك سياساتنا إلى اتخاذ إجراءات ضد حسابك، قد تصل إلى الإيقاف أو الإنهاء". "نحن نعمل أيضًا على جعل نماذجنا أكثر أمانًا وفائدة، من خلال تدريبها على رفض التعليمات الضارة وتقليل ميلها لإنتاج محتوى ضار."

شاهد ايضاً: محكمة استئناف فدرالية تسمح لسوق التنبؤ "كالشي" بتقديم مراهنات على الانتخابات الأمريكية

قالت يوروبول في تقريرها العام الماضي إنه "لا يوجد نقص في الحلول الجديدة" للتهرب من الضمانات المدمجة في نماذج الذكاء الاصطناعي، والتي يمكن استخدامها من قبل المستخدمين سيئي النية أو الباحثين الذين يختبرون سلامة التكنولوجيا.

أخبار ذات صلة

Loading...
Is pumpkin spice a summer flavor? IHOP and Krispy Kreme are the latest retailers to say yes

هل نكهة اليقطين هي نكهة صيفية؟ آي هوب وكريسبي كريم هما أحدث متاجر يقولان نعم

أعمال
Loading...
Doughnuts, smoothies, pizza, MoonPie, eyewear — brands are going all out-of-this-world with solar eclipse-themed goodies

دونات، عصائر، بيتزا، مون باي، نظارات - العلامات التجارية تتجاوز الحدود مع منتجات مستوحاة من كسوف الشمس

أعمال
Loading...
Half a million California fast food workers will now earn $20 per hour

ستكسب نصف مليون عامل في مطاعم الوجبات السريعة بولاية كاليفورنيا الآن 20 دولار في الساعة

أعمال
Loading...
Chips Ahoy! to debut new cookie recipe with improved chocolate chips

ترقبوا إطلاق وصفة جديدة لبسكويت شيبس أهوي! مع رقائق الشوكولاتة المحسنة

أعمال
الرئيسيةأخبارسياسةأعمالرياضةالعالمتكنولوجيااقتصادصحةتسلية