"ميزة الاستدعاء" الجديدة من مايكروسوفت تثير مخاوف من إمكانية الاستخدامات الضارة للذكاء الاصطناعي، وتثير تساؤلات حول الخصوصية والأمان. تعرف على كيفية عملها والتحديات المحتملة. #تكنولوجيا #خَبَرْيْن
تثير ميزة الذكاء الاصطناعي الجديدة الأكثر رواجاً من مايكروسوفت مخاوف من إمكانية إساءة استخدامها في الأيدي الخطأ.
هذا الأسبوع، عرضت الشركة أداة جديدة تُدعى Recall لأجهزة الكمبيوتر التي تعمل بنظام ويندوز والتي تعمل بمثابة "آلة زمن" شخصية، مما يسمح للمستخدمين بسحب أي شيء كان على الشاشة بسرعة، مثل المستندات والصور ومواقع الويب. وهي تختلف عن البحث بالكلمات المفتاحية؛ حيث تقوم الأداة بحفظ لقطات شاشة المستخدم بانتظام وتخزينها مباشرةً على الجهاز. ثم تستخدم الذكاء الاصطناعي لمعالجة البيانات وجعلها قابلة للبحث.
على سبيل المثال، إذا كان شخص ما قد بحث سابقاً عن فستان أخضر أو اسم متجر آيس كريم محلي، فيمكنه أن يطلب من الميزة "استدعاء" أي شيء في سجله الذي ظهر على الشاشة.
على الرغم من أن ما يسمى بالبحث الدلالي هو خطوة كبيرة إلى الأمام بالنسبة للذكاء الاصطناعي، إلا أنه يأتي في وقت تتحرك فيه الصناعة بسرعة كبيرة ولا يزال المنظمون الحكوميون والشركات والمستهلكون يكتشفون كيفية استخدام التكنولوجيا بشكل مسؤول.
وقالت جين غولبيك - أستاذة الذكاء الاصطناعي في جامعة ميريلاند التي تركز على الخصوصية - إن ميزة الاستدعاء يمكن أن تشكل "كابوساً" محتملاً إذا وقع الجهاز في الأيدي الخطأ.
وقالت: "قد تبقى الأشياء على جهازك، ولكن هذا لا يعني أن الناس لا يمكنهم الوصول إليها". "لن يكون لديك خيار لحماية نفسك حتى لو كنت تستخدم وضع التصفح المتخفي أو مسح سجلك لأن الأداة لديها إمكانية الوصول إلى كل ما كان على شاشتك."
وقد أخبر مكتب مفوض المعلومات (ICO)، وهو الجهة التنظيمية المستقلة لحماية البيانات وحرية المعلومات في المملكة المتحدة، شبكة CNN أنه يحقق في الأداة "لفهم الضمانات المعمول بها لحماية خصوصية المستخدم".
وقال مكتب ICO في بيان: "نتوقع من المؤسسات أن تكون شفافة مع المستخدمين حول كيفية استخدام بياناتهم ومعالجة البيانات الشخصية فقط بالقدر الضروري لتحقيق غرض محدد".
لم تستجب مايكروسوفت على الفور لطلب التعليق. قال الرئيس التنفيذي ساتيا ناديلا لصحيفة وول ستريت جورنال في مقابلة مع صحيفة وول ستريت جورنال قبل إطلاق يوم الاثنين أن عمليات البحث على الويب يجب أن تتم فقط على متصفح الويب Edge الخاص بشركة مايكروسوفت وأن لقطات الشاشة لا تغادر جهاز الكمبيوتر الخاص بالمستخدم.
"عليك أن تجمع شيئين معًا: هذا هو جهاز الكمبيوتر الخاص بي وهذا هو جهاز الاسترجاع الخاص بي - وكل ذلك يتم محليًا".
قال جيف بلابر، الرئيس التنفيذي لشركة CCS Insight لأبحاث السوق، إن ذلك يجعل المشكلة أقل إثارة للقلق.
وقال بلابر: "إن رد الفعل العنيف من قبل البعض على هذه الميزة ليس مفاجئًا، ولكنه رد فعل مبالغ فيه نظرًا لأن البيانات تبقى حصريًا على الجهاز ويتمتع المستخدم بالتحكم الكامل".
يمكن لأي شخص أن يقرر تشغيل الميزة أثناء عملية إعداد الجهاز، ويمكنه تخصيص التطبيقات ومواقع الويب التي يمكن لـ Recall الوصول إليها ووضعها في القائمة السوداء.
وقال: "تشير عناصر التحكم هذه إلى أن الميزة قد تم تصميمها مع مراعاة الأمان والخصوصية في جوهرها". "لن تروق خاصية الاسترجاع للجميع، ولكن من المرجح أن تكون الفائدة التي توفرها هذه الميزة كبيرة."
لكن غولبيك أشارت إلى الأوقات التي قد لا تكون فيها هذه الحماية كافية، مثل صحفي في بلد معادٍ، أو شخص يحاول الخروج من علاقة مسيئة، أو شخص يبحث عن معلومات طبية حساسة أو موظف يريد رئيسه تعقبه. وتعتقد أن المشاكل المتعلقة بالأداة ستؤثر على الأرجح على مكان العمل أكثر من غيره.
وتضيف: "نحن نعلم أن الوظائف تراقب ما نقوم به على أجهزتهم، ولكن الكثير من الأشخاص سيقومون بأمور شخصية على أجهزة الكمبيوتر الخاصة بالعمل، وكل ذلك سيكون مؤرشفاً ومرئياً لقسم تكنولوجيا المعلومات، حتى لو بقي على الجهاز فقط".
وقالت غولبيك إن التكنولوجيا، على الرغم من فوائدها، غالبًا ما يتم تطويرها دون مراعاة الاستخدامات الضارة.
وقالت: "ما رأيناه على مدى السنوات الـ 15 الماضية هو أن كل حالة من حالات الاستخدام الخبيثة المحتملة هذه تؤتي ثمارها بطريقة أو بأخرى". "سيرغب الأشخاص في استخدام هذه الميزة الرائعة دون فهم مخاطر الخصوصية - أنه سيكون هناك سجل دائم لكل ما تفعله."
وقد ظهرت في الماضي ردود فعل مماثلة على ميزات مثل كلمات المرور البيومترية، مثل بصمات الأصابع، والتعرف على الوجه ومسح قزحية العين. وقال بلابر إنه للتغلب على بعض المخاوف الأولية، ستحتاج مايكروسوفت وشركاؤها إلى إثبات قيمة المنتج وأمانه وخصوصيته في العالم الحقيقي.
ومع ذلك، تعتقد ميشيلا مينتينج، مديرة الأبحاث في ABI Research، أن الميزة تمثل "خطوة إلى الوراء" بالنسبة للخصوصية.
وقالت: "إن الحجة القائلة بأن القراصنة يحتاجون إلى وصول مادي حتى يتمكنوا من التلاعب بخاصية Recall هي حجة قصيرة النظر في أحسن الأحوال، لأن هناك الكثير من الطرق البارعة للغاية التي يمكن للجهات الفاعلة في مجال التهديد استغلال مثل هذه الأداة القيمة". "كل ما يتطلبه الأمر هو الوقت والجهد لإيجاد طريقة."
