هل من الآمن استخدام روبوتات الدردشة الذكية في العلاج النفسي؟ إليكم ما يقوله خبراء الصحة النفسية

لجأت إلى ChatGPT على حاسوبي المحمول للتحقق من قدرات روبوت الذكاء الاصطناعي العلاجية.

كتب لي روبوت ChatGPT الذي أنشأه المستخدم: "مرحبًا، أنا المعالج GPT - رفيقك الودود والمتعاطف هنا لأستمع إليك وأدعمك في كل ما يدور في ذهنك". (في العام الماضي، قامت شركة OpenAI، مبتكر ChatGPT، أطلقت في العام الماضي إمكانية قيام المستخدمين ببناء "روبوتات GPT" الخاصة بهم والتي تعمل مثل منتج ChatGPT الأساسي الخاص بها ولكنها مصممة لغرض معين).

"سواء كنت تشعر بالإرهاق، أو تحتاج إلى بعض الإرشادات، أو ترغب فقط في مشاركة أفكارك، فأنا هنا لمساعدتك. على الرغم من أنني لست بديلاً عن العلاج المتخصص، إلا أنني أستطيع أن أقدم لك نصيحة مريحة، واستراتيجيات للتكيف، ومساحة آمنة وخالية من الأحكام للتعبير عن نفسك. كيف تشعرين اليوم؟" تابعت الرسالة من الروبوت.

من الواضح أن المعالج GPT ليس معالجاً نفسياً حقيقياً، ولا ينصح البرنامج المستخدمين بالاستعاضة عنه. ومع ذلك، يتجه العديد من مستخدمي وسائل التواصل الاجتماعي إلى روبوتات الدردشة - وليس فقط تلك الموجودة على ChatGPT - للتعبير عن مشاعرهم.

فقد لجأت مايا دنهام، 24 عاماً، إلى تطبيق ChatGPT على الهاتف خلال الشهرين الماضيين عندما تحتاج إلى نصيحة. تقوم دنهام بكتابة مشاعرها مرتين في الأسبوع تقريباً وترسلها إلى الروبوت لتحليلها وإبداء الرأي فيها.

تقول دنهام: "هدفي هو أن أتعلم وجهة نظر جديدة، فقط لأحصل على وجهة نظر مختلفة حول الأمر، لأن كل ما أفكر فيه في رأسي سيكون مبنيًا على مشاعري الخاصة".

استخدمت دنهام روبوت الدردشة لأول مرة في أكتوبر بعد أن شاهدت شخصًا آخر ينشر عن تجربة إيجابية على وسائل التواصل الاجتماعي. "كانت عبارتي الافتتاحية هي: 'بصراحة، أحتاج فقط إلى شخص أتحدث إليه، هل يمكنني التحدث إليك؟ وكان الروبوت يقول: "بالتأكيد". وكان الأمر أكثر ترحيباً مما كنت أتوقعه."

"لم أكن أتوقع أن يشعرني الروبوت بأنه إنساني للغاية."

عندما نشرت دنهام عن تجربتها على تيك توك، انقسم المعلقون حول استخدام روبوتات الدردشة بهذه الطريقة. قال البعض إنهم يتطلعون إليها أيضًا لأغراض علاجية، بينما أعرب آخرون عن شكهم في أنهم سيشعرون بالراحة في التحدث إلى روبوت، على حد قولها.

يقول خبراء الصحة النفسية إن هذه التكنولوجيا المتطورة يمكن أن تكون مفيدة في بعض المواقف، ولكن هناك أيضًا مخاطر يجب وضعها في الاعتبار. إليك ما يريدونك أن تعرفه.

استخدام روبوتات الدردشة الآلية التي تعمل بالذكاء الاصطناعي كمعالجين

جربت دنهام، وهي من أتلانتا، العلاج مع البشر عدة مرات، لكنها قالت إنها تفضل روبوت الدردشة الآلية لافتقاره إلى تعابير الوجه. وقالت إن الروبوت لا يبدو وكأنه يحكم عليها.

قال الدكتور راسل فولمر، رئيس فريق عمل الجمعية الأمريكية للإرشاد النفسي حول الذكاء الاصطناعي وأستاذ ومدير برامج الإرشاد النفسي للدراسات العليا في جامعة هوسون في بانجور بولاية ماين: "قد يكون بعض المستخدمين، وبعض السكان، أكثر استعدادًا للإفصاح أو الانفتاح أكثر عند التحدث مع روبوت الدردشة الآلي مقارنةً بالبشر، (و) هناك بعض الأبحاث التي تدعم فعاليتها في مساعدة بعض السكان الذين يعانون من القلق الخفيف والاكتئاب الخفيف".

وأشار إلى أنه "من ناحية أخرى، هناك بعض المخاوف المتعلقة بالأخلاقيات والأمور التي يجب أن نكون حذرين معها".

يوصي فولمر الناس باستخدام روبوتات الدردشة بالتعاون مع الاستشارات البشرية. يمكن للمعالج النفسي أن يساعد في توجيه الأهداف الشخصية للمريض باستخدام الروبوتات وتوضيح أي مفاهيم خاطئة من جلسة الدردشة الآلية.

وقد أُجريت بعض الأبحاث حول روبوتات الدردشة الآلية المصممة سريريًا والتي يمكن أن تساعد الناس على أن يصبحوا أكثر تثقيفًا بشأن الصحة العقلية، بما في ذلك التخفيف من القلق، وبناء عادات صحية والحد من التدخين**.

لكن المخاطر التي تنطوي على استخدام روبوتات الدردشة العامة تتمثل في أنها قد لا تكون مصممة مع وضع الصحة النفسية في الاعتبار، كما تقول الدكتورة مارلين وي، وهي طبيبة نفسية ومؤسسة عيادة علاج نفسي شامل في مدينة نيويورك. قد لا يكون لدى الروبوتات "معايير السلامة وطرق تحديد ما إذا كانت المشكلة تحتاج إلى نقل المشكلة إلى طبيب أو أخصائي بشري".

قالت وي، التي لديها مشروع أداء يستكشف ردود أفعال الناس تجاه نسخ الذكاء الاصطناعي المستنسخة من أنفسهم وأحبائهم، إن روبوتات الدردشة الآلية قد تعطي معلومات غير صحيحة أو معلومات يريد المستخدم سماعها بدلاً مما قد يوصي به المعالج البشري الذي يضع الصحة النفسية في الاعتبار.

قالت وي: "تتمثل (المشاكل) في "الهلوسة" والتحيز وعدم الدقة". "لديّ الكثير من الأمل في الذكاء الاصطناعي كنوع من الجمع بين العمل والتعزيز، ولكن بمفرده، أعتقد أنه لا تزال هناك مخاوف بشأن التحيز الموجود داخل الذكاء الاصطناعي، ثم حقيقة أنه يمكن أن يختلق الأشياء. ... أعتقد أن هذا هو المكان الذي سيكون فيه وجود معالج بشري مفيدًا للغاية." لدى خدمات الذكاء الاصطناعي أيضًا إرشادات وقيود مختلفة للسلامة من حيث ما يمكن أن تناقشه الروبوتات مع المستخدمين.

قال فولمر إن روبوتات الدردشة الآلية قد تكون أكثر سهولة لبعض الأشخاص، مثل أولئك الذين لا يملكون المال أو التأمين للعلاج أو الذين ليس لديهم وقت في جداولهم لأن بعض روبوتات الدردشة الآلية مجانية الاستخدام ويمكنها الاستجابة ليلاً أو نهاراً.

وقال: "في هذه الحالات، سيكون روبوت الدردشة الآلي أفضل من لا شيء"، ولكن الناس بحاجة إلى فهم ما يمكن لروبوت الدردشة الآلي "أن يفعله وما لا يستطيع فعله"، مضيفاً أن الروبوت غير قادر على بعض الصفات البشرية مثل التعاطف.

لا ينصح فولمر القاصرين أو غيرهم من الفئات السكانية الضعيفة باستخدام روبوتات الدردشة الآلية دون توجيه وإشراف من الآباء أو المعلمين أو الموجهين أو المعالجين.

تواجه حاليًا شركة Character.AI، وهي شركة روبوتات دردشة تعمل بالذكاء الاصطناعي، دعوى قضائية رفعتها عائلتان اتهمتاها بتقديم محتوى جنسي لأطفالهما وتشجيع إيذاء النفس والعنف. وبشكل منفصل، رفعت أم من ولاية فلوريدا دعوى قضائية في أكتوبر/تشرين الأول تزعم فيها أن المنصة هي المسؤولة عن انتحار ابنها البالغ من العمر 14 عاماً، حسبما ذكرت شبكة CNN سابقاً. (صرحت تشيلسي هاريسون، رئيسة قسم الاتصالات في Character.AI، لشبكة CNN في وقت سابق أن الشركة لا تعلق على الدعاوى القضائية المعلقة، ولكن "هدفنا هو توفير مساحة جذابة وآمنة لمجتمعنا". وقالت الشركة إنها أجرت العديد من التحديثات المتعلقة بالسلامة، بما في ذلك ضمان أن الروبوتات ستوجه المستخدمين إلى موارد طرف ثالث إذا ذكروا إيذاء النفس أو الانتحار).

روبوتات الدردشة الآلية مقابل المعالجين البشريين

قام الدكتور دانيال كيميل، وهو طبيب نفسي وأستاذ مساعد في الطب النفسي السريري في جامعة كولومبيا، بتجربة العلاج باستخدام روبوتات الدردشة الآلية في مايو 2023، حيث أعطى روبوت الدردشة الآلية مريضًا افتراضيًا وقارن الردود بما كان سيقدمه كيميل للمريض.

وقال لشبكة CNN إن روبوت الدردشة الآلي "قام بعمل جيد بشكل مثير للدهشة في أن يبدو وكأنه معالج نفسي ويستخدم العديد من التقنيات ... التي قد يستخدمها المعالج النفسي حول تطبيع تجربة المريض والتحقق من صحتها (و) تقديم أنواع معينة من التوصيات العامة ولكن الدقيقة".

وأضاف أن ما كان ينقصه هو الفضول الذي قد يتحلى به المعالج النفسي البشري مع المريض، وطرح الأسئلة التي تتعمق أكثر مما يقوله المريض في البداية والتي "تربط النقاط تحت السطح".

"بصفتي معالجًا نفسيًا، أعتقد أن المعالجين يقومون بثلاثة أشياء على الأقل في آن واحد. نحن نستمع إلى ما يقوله المرضى (في كلماتهم). يجب عليك ذلك لكي تكون في المحادثة." قال كيميل. "ثم، في الجزء الخلفي من عقلك، تحاول أن تربط ما يقولونه ببعض الأشياء الأكبر التي قالها المريض من قبل (و) المفاهيم والنظريات التي تعرفها من خلال خبرتك، ثم أخيرًا تصفية مخرجات ذلك من خلال أفكار حول ما سيكون أكثر فائدة للمريض."

وقال إنه في هذه المرحلة، يمكن أن تشكل روبوتات الدردشة الآلية مخاطر إذا فشلت في تحقيق هذه الخطوات، وبدلاً من ذلك تقدم إرشادات قد لا يكون المريض مستعداً لسماعها أو قد لا تكون مفيدة في هذه الحالة.

علاوة على ذلك، فإن المحادثات مع المعالجين المحترفين مشمولة بقانون قابلية التأمين الصحي والمساءلة، المعروف باسم HIPAA، ومعلوماتك الصحية خاصة ومحمية، كما قال وي. وأضاف وي أن روبوتات الدردشة العامة غالبًا ما تكون غير متوافقة مع القانون الفيدرالي الذي يقيد نشر المعلومات الطبية، كما أن الشركات التي تقف وراء الروبوتات كثيرًا ما تنصح المستخدمين بعدم مشاركة المعلومات الحساسة في محادثاتهم مع الروبوتات.

في نهاية المطاف، قال كيميل إن الأبحاث المستقبلية حول روبوتات الدردشة الآلية القائمة على الذكاء الاصطناعي ستكون مفيدة في فهم إمكاناتها وتطبيقاتها في مجال الصحة النفسية. وقال: "هذه ليست تقنية ستختفي".

وقالت دنهام إنها تعتقد أن هذه التكنولوجيا يمكن أن تكون مفيدة لمن هم مثلها ممن يشعرون بالانطوائية ويريدون التحدث عن مشاعرهم دون حضور شخص آخر.

قالت دنهام: "علينا أن نعطي الأولوية لصحتنا النفسية على كل شيء". "حتى لو كانت لا تبدو كطريقة تقليدية (للعلاج النفسي)، ليس بالضرورة أن ننظر إليها باستخفاف، لأن هذا يمكن أن يساعد الكثير من الناس."

بالنسبة لها، "الخلاصة هي ألا نحكم على الشخص التالي بسبب طريقة تعافيه".