ميزة الاستدعاء: الذكاء الاصطناعي والخصوصية

تحذيرات من أداة Recall للذكاء الاصطناعي من مايكروسوفت

تثير ميزة الذكاء الاصطناعي الجديدة الأكثر رواجاً من مايكروسوفت مخاوف من إمكانية إساءة استخدامها في الأيدي الخطأ.

ما هي أداة Recall وكيف تعمل؟

هذا الأسبوع، عرضت الشركة أداة جديدة تُدعى Recall لأجهزة الكمبيوتر التي تعمل بنظام ويندوز والتي تعمل بمثابة "آلة زمن" شخصية، مما يسمح للمستخدمين بسحب أي شيء كان على الشاشة بسرعة، مثل المستندات والصور ومواقع الويب. وهي تختلف عن البحث بالكلمات المفتاحية؛ حيث تقوم الأداة بحفظ لقطات شاشة المستخدم بانتظام وتخزينها مباشرةً على الجهاز. ثم تستخدم الذكاء الاصطناعي لمعالجة البيانات وجعلها قابلة للبحث.

على سبيل المثال، إذا كان شخص ما قد بحث سابقاً عن فستان أخضر أو اسم متجر آيس كريم محلي، فيمكنه أن يطلب من الميزة "استدعاء" أي شيء في سجله الذي ظهر على الشاشة.

تحديات الخصوصية المرتبطة بأداة Recall

على الرغم من أن ما يسمى بالبحث الدلالي هو خطوة كبيرة إلى الأمام بالنسبة للذكاء الاصطناعي، إلا أنه يأتي في وقت تتحرك فيه الصناعة بسرعة كبيرة ولا يزال المنظمون الحكوميون والشركات والمستهلكون يكتشفون كيفية استخدام التكنولوجيا بشكل مسؤول.

آراء الخبراء حول مخاطر الأداة

وقالت جين غولبيك - أستاذة الذكاء الاصطناعي في جامعة ميريلاند التي تركز على الخصوصية - إن ميزة الاستدعاء يمكن أن تشكل "كابوساً" محتملاً إذا وقع الجهاز في الأيدي الخطأ.

وقالت: "قد تبقى الأشياء على جهازك، ولكن هذا لا يعني أن الناس لا يمكنهم الوصول إليها". "لن يكون لديك خيار لحماية نفسك حتى لو كنت تستخدم وضع التصفح المتخفي أو مسح سجلك لأن الأداة لديها إمكانية الوصول إلى كل ما كان على شاشتك."

استجابة الجهات التنظيمية لأداة Recall

وقد أخبر مكتب مفوض المعلومات (ICO)، وهو الجهة التنظيمية المستقلة لحماية البيانات وحرية المعلومات في المملكة المتحدة، شبكة CNN أنه يحقق في الأداة "لفهم الضمانات المعمول بها لحماية خصوصية المستخدم".

وقال مكتب ICO في بيان: "نتوقع من المؤسسات أن تكون شفافة مع المستخدمين حول كيفية استخدام بياناتهم ومعالجة البيانات الشخصية فقط بالقدر الضروري لتحقيق غرض محدد".

تحكم المستخدم في أداة Recall

لم تستجب مايكروسوفت على الفور لطلب التعليق. قال الرئيس التنفيذي ساتيا ناديلا لصحيفة وول ستريت جورنال في مقابلة مع صحيفة وول ستريت جورنال قبل إطلاق يوم الاثنين أن عمليات البحث على الويب يجب أن تتم فقط على متصفح الويب Edge الخاص بشركة مايكروسوفت وأن لقطات الشاشة لا تغادر جهاز الكمبيوتر الخاص بالمستخدم.

"عليك أن تجمع شيئين معًا: هذا هو جهاز الكمبيوتر الخاص بي وهذا هو جهاز الاسترجاع الخاص بي - وكل ذلك يتم محليًا".

قال جيف بلابر، الرئيس التنفيذي لشركة CCS Insight لأبحاث السوق، إن ذلك يجعل المشكلة أقل إثارة للقلق.

وقال بلابر: "إن رد الفعل العنيف من قبل البعض على هذه الميزة ليس مفاجئًا، ولكنه رد فعل مبالغ فيه نظرًا لأن البيانات تبقى حصريًا على الجهاز ويتمتع المستخدم بالتحكم الكامل".

يمكن لأي شخص أن يقرر تشغيل الميزة أثناء عملية إعداد الجهاز، ويمكنه تخصيص التطبيقات ومواقع الويب التي يمكن لـ Recall الوصول إليها ووضعها في القائمة السوداء.

إمكانية الاستخدامات الضارة لأداة Recall

وقال: "تشير عناصر التحكم هذه إلى أن الميزة قد تم تصميمها مع مراعاة الأمان والخصوصية في جوهرها". "لن تروق خاصية الاسترجاع للجميع، ولكن من المرجح أن تكون الفائدة التي توفرها هذه الميزة كبيرة."

لكن غولبيك أشارت إلى الأوقات التي قد لا تكون فيها هذه الحماية كافية، مثل صحفي في بلد معادٍ، أو شخص يحاول الخروج من علاقة مسيئة، أو شخص يبحث عن معلومات طبية حساسة أو موظف يريد رئيسه تعقبه. وتعتقد أن المشاكل المتعلقة بالأداة ستؤثر على الأرجح على مكان العمل أكثر من غيره.

وتضيف: "نحن نعلم أن الوظائف تراقب ما نقوم به على أجهزتهم، ولكن الكثير من الأشخاص سيقومون بأمور شخصية على أجهزة الكمبيوتر الخاصة بالعمل، وكل ذلك سيكون مؤرشفاً ومرئياً لقسم تكنولوجيا المعلومات، حتى لو بقي على الجهاز فقط".

وقالت غولبيك إن التكنولوجيا، على الرغم من فوائدها، غالبًا ما يتم تطويرها دون مراعاة الاستخدامات الضارة.

وقالت: "ما رأيناه على مدى السنوات الـ 15 الماضية هو أن كل حالة من حالات الاستخدام الخبيثة المحتملة هذه تؤتي ثمارها بطريقة أو بأخرى". "سيرغب الأشخاص في استخدام هذه الميزة الرائعة دون فهم مخاطر الخصوصية - أنه سيكون هناك سجل دائم لكل ما تفعله."

وقد ظهرت في الماضي ردود فعل مماثلة على ميزات مثل كلمات المرور البيومترية، مثل بصمات الأصابع، والتعرف على الوجه ومسح قزحية العين. وقال بلابر إنه للتغلب على بعض المخاوف الأولية، ستحتاج مايكروسوفت وشركاؤها إلى إثبات قيمة المنتج وأمانه وخصوصيته في العالم الحقيقي.

ومع ذلك، تعتقد ميشيلا مينتينج، مديرة الأبحاث في ABI Research، أن الميزة تمثل "خطوة إلى الوراء" بالنسبة للخصوصية.

وقالت: "إن الحجة القائلة بأن القراصنة يحتاجون إلى وصول مادي حتى يتمكنوا من التلاعب بخاصية Recall هي حجة قصيرة النظر في أحسن الأحوال، لأن هناك الكثير من الطرق البارعة للغاية التي يمكن للجهات الفاعلة في مجال التهديد استغلال مثل هذه الأداة القيمة". "كل ما يتطلبه الأمر هو الوقت والجهد لإيجاد طريقة."