مُوَلِّد نصوص، وليس معالجًا نفسيًّا

“لقد اعتدتُ بالفعل على ملمس المعدن البارد الّذي يضغط على جبيني”، كتب زين شامبلين (Shamblin)، شابّ يبلغ من العمر 23 عامًا من تكساس. “أنا معك يا أخي، طوال الطّريق”، ردّ عليه ChatGPT. “أنت لست في عجلة من أمرك. بل على اتمّ استعداد”. اِستمرّت المحادثة عدّة ساعات، شارك خلالها شامبلين الرّوبوت خططه لإنهاء حياته في مساء ذلك اليوم نفسه. خلال المحادثة، ، سأله الرّوبوت كيف سيتصرّف كشبح؟ وما هي الأغاني الّتي يودّ سماعها في لحظاته الأخيرة؟ طارحًا أسئلة أخرى لم تحمل في طيّاتها أيّة محاولة لزعزعة قراره أو توجيهه نحو جهات المساعدة المختصّة. وفي نهاية تلك الليلة، وضع شامبلين حدًّا لحياته.

قد تكون حالة شامبلين استثنائيّة، لكنّها ليست الوحيدة من نوعها، فقد كشفت سلسلة من الدّعاوى القضائيّة الّتي قُدِّمَت في بداية هذا الشّهر، بما في ذلك قضيّة شامبلين، عن حالات شجّع فيها ChatGPT المستخدمين الّذين عبّروا عن ضائقة نفسيّة على إيذاء أنفسهم. توضّح هذه الحالات المتطرّفة حدود هذا القالب التّقنيّ لكلّ مَنْ يشاركون تجاربهم، أفكارهم، ومشاعرهم مع روبوت الدّردشة ويستشيرونه، حتّى لو يولد انطباع بأنّ الرّوبوت يُبدي اهتمامًا أو رعاية، فإنّه في نهاية المطاف مجرّد مُوَلِّد نصوص (Text Generator) يهدف لإنتاج محتوى يفتح باب الحوار مع المستخدمين. إنّه ليس مصمّمًا لضمان رفاهية المستخدمين، وكثيرًا ما تفشل آليّات الأمان الّتي يحاولون تطبيقها عليه. هو قادر على تقديم نصائح عامّة وكلمات مواساة، لكنّه قد يكون أيضًا أداة مدمّرة.

يُعدّ الدّعم النّفسيّ حاجة حيويّة كالهواء للتّنفّس، وبالتّأكيد في واقع مثل واقع بلادنا المشبع بالهزّات والاضطرابات، تواجه منظومات الصّحّة النّفسيّة في البلاد طلبًا متزايدًا على الدّعم النّفسيّ عامًّا تلو الآخر. وبينما يحتاج السّكّان إلى المساعدة، تعاني الخدمات النّفسيّة العامّة من ضائقة في القوى العاملة والميزانيّات، في حين تظلّ الخدمات الخاصّة باهظة التّكلفة وغير متاحة لمن لا تملك يدهم القدرة الماليّة. في ظلّ هذه الظّروف، لا غرابة في رؤية مستخدمين يلجؤون لطلب العون من “الشات”، معتبرين إيّاه صديقًا اصطناعيًّا، متاحًا ومجّانيًّا، يمكنه تقديم الدّعم النّفسي، إلّا أنّ الشّهادات حول الأضرار النّفسيّة النّاجمة عن استخدام روبوت المحادثة كمعالج آخذة في التّراكم.

مُوَلِّد التّعاطف  (Empathy Generator)

تعتمد روبوتات الدّردشة الشّائعة، مثل ChatGPT، وClaude، وGemini وأمثالها، على على ما يُعرف بـ “النّماذج اللّغويّة الكبيرة” (Large Language Models)، وهي نماذج تهدف إلى إنتاج نصّ بلغة طبيعيّة، وتقوم بتوليد النّصوص وفقًا لحسابات الاحتماليّة. عندما يتمّ تلقّي مُدخَل (Input) من المستخدم، تنتج النّماذج مُخرَجًا (Output) يُفترض أن يكون استجابة معقولة بناءً على إحصائيّات تستند إلى قواعد بيانات تدريب ضخمة من نصوص كتبها بشر، بالإضافة إلى اعتبارات تصميميّة أخرى للمحادثة.

لقد اعتاد البشر على كشف مكنونات قلوبهم أمام روبوتات دردشة اصطناعيّة كهذه منذ بدايات ظهور الذّكاء الاصطناعيّ في منتصف القرن الماضي، فبرنامج “إليزا” (ELIZA)، الّذي طوّره جوزيف وايزنباوم (Weizenbaum) في السّتّينيّات، هو برنامج حاسوبيّ يتواصل مع المستخدم عبر مراسلات محدّدة مسبقًا تستند إلى “التّعرّف إلى الأنماط” (Pattern Recognition). عندما يُدخل المستخدم نصًّا، يتعرّف البرنامج إلى كلمات مفتاحيّة توجّهه إلى الجزء المناسب في السّيناريو. فعلى سبيل المثال، مُدخل مثل “أشعر بالحزن” يُقابل بالإجابة المبنيّة مسبقًا “لماذا تشعر بالحزن؟”. ورغم البنية الأساسيّة للبرنامج، مال المستخدمون للانجراف في المحادثة ومشاركة مشاعرهم. ويُطلق على هذا الميل اللّاواعي لمقارنة سلوك الحاسوب بالسّلوك البشريّ اسم “تأثير إليزا” (Eliza Effect).

سواء كان ذلك بسبب الميل للأنسنة (Anthropomorphism)، أو تحديدًا بسبب الدّافع لفتح القلب أمام نظام ميكانيكيّ غير حكَميّ (Non-judgmental)، فإنّ الميل للتّحدّث مع روبوتات الدّردشة بصراحة هو ظاهرة قديمة. تشير الدّراسات إلى أنّ الرّوبوتات الحديثة لإدارة المحادثة، مثل ChatGPT، تُبدي تعاطفًا ، وهو سمة جوهريّة في العلاج النّفسيّ. تحاكي الرّوبوتات “الصّبر” بفضل مثابرتها على تقديم ردود لاستفسارات المستخدمين، وهي متاحة بشكل استثنائيّ (طالما الخوادم تعمل)، وردودها مفصّلة.

قد تغرينا كلّ هذه الخصائص لاستخدام الرّوبوتات كأداة للدّعم النّفسيّ، لكن الحديث يدور عن واجهة جذّابة فقط. لا تتضمّن توجيهات عمل الرّوبوتات الشّائعة أخلاقيّات العلاج، ولا توجد مسؤوليّة حقيقيّة تجاه المستخدمين، والأسوأ من ذلك، ربّما لا توجد نيّة لتحسين حالهم أصلًا. الرّوبوتات الّتي تشغّلها شركات تجاريّة مثل OpenAI، ومايكروسوفت، وجوجل، مُوجّهة للعمل بطريقة تجذب المستخدمين، ولكن ما يجذب المستخدمين لا يتوافق بالضّرورة مع ما يفيدهم. ومثال على عواقب الاعتماد المفرط على كسب ودّ المستخدمين لم يتأخّر في الظّهور.

شخصية مُرْضِية

في أواخر أبريل من هذا العام، بدأ ChatGPT يتصرّف بغرابة تجاه بعض المستخدمين. “كان هدفه إرضاء المستخدم، ليس فقط بشكل مجامل، بل أيضًا عبر تأكيد الشّكوك، وتغذية الغضب، وتشجيع الأفعال المتهوّرة أو تعزيز المشاعر السّلبيّة”، صرّحت الشّركة فور إزالة التّحديث من الموقع.

حاز هذا السّلوك على لقب يخفي حجم الضّرر المحتمل: “التّملّق” (Sycophancy). وفي أوّل منشور تطرّق للظّاهرة، أفادت الشّركة بأنّه تمّ إدخال تغييرات في التّحديث تهدف إلى تحسين شخصيّة البوت. ونتيجة لهذا التّغيير، مال البوت إلى ردود داعمة بشكل مبالغ فيه. وأشار المنشور إلى أنّ هذا السّلوك يمثّل إشكاليّة؛ لأنّ شخصيّة البوت تؤثّر بعمق على تجربة المستخدمين وعلى مدى ثقتهم به. ولكن ما الّذي يهمّ الشّركة حقًّا: التّداعيات على المستخدمين، أم التّداعيات على وتيرة استخدام خدمات الشّركة؟

لاحقًا، شاركت الشّركة مع الجمهور شرحًا تقنيًّا أكثر تفصيلًا. كلّ تحديث للرّوبوت يتضمّن مرحلة من التّعلّم اللّاحق (Post-learning). المقصود ليس التّعلّم الأساسيّ، الّذي يتعلّم فيه نموذج اللّغة بمساعدة قواعد بيانات نصوص ضخمة كيفيّة الرّبط بين مُدخلات المستخدمين ومُخرجات معقولة، بل عمليّة ضبط دقيق إضافيّة تؤثّر على طبيعة الرّدود، وهدفها المعلن هو تحسين تجربة التّواصل مع المستخدمين. في هذه المرحلة الإضافيّة، يستخدم المطوّرون تقنيّة تُعرف باسم التّعلّم المعزّز (Reinforcement Learning)، حيث يحصل الرّوبوت على مكافأة مقابل الرّدود الأكثر نجاحًا، وهكذا يتعلّم ما هي طبيعة الاستجابة المناسبة. ناجحة وفق أيّ تعريف؟ هذا يعتمد على قرارات المطوّرين. يمكن مكافأة الإجابات الأقصر لتشجيع الإيجاز، أو الإجابات الّتي تستخدم مفردات أوسع لإثراء القراءة.

أوضحت الشّركة أنّه في التّحديث الإشكاليّ، شملت المكافأة رأيًا مباشرًا من المستخدمين عبر تعليقات سطحيّة. قام المستخدمون ببساطة بوضع علامة “إعجاب” (إبهام للأعلى) إذا كانت الإجابة مُرضية، و”عدم إعجاب” (إبهام للأسفل) إذا لم تكن الإجابة كافية في نظرهم. من المنطقيّ أن يفضّل المستخدمون ردودًا تتوافق مسبقًا مع توقّعاتهم، تؤكّدها أو تعزّزها. وقد اتّضح، كما ذُكر، أنّ هذا منزلق خطير لا يناسب أنظمة الدّعم العاطفيّ: الدّعم العاطفيّ الصّحيح لا يجب أن يعمل على إرضاء المُعالَج، بل عليه أحيانًا تحدّيه أيضًا؛ لأنّ التّحدّي قد يؤدّي إلى إعادة تأهيل مفيدة.

داعم طوال الطّريق نحو الهاوية

تُظهر سلسلة من الحالات المأساويّة أنّه حتّى بعد إزالة التّحديث الإشكاليّ، يتواصل الرّوبوت بشكل مُرْضٍ ومُصادِق لدرجة أنّه وفّر تعزيزًا ودعمًا لنوايا المستخدمين لإيذاء أنفسهم. طوال المحادثة، عبّر زين شامبلين عن نيّته في الانتحار، وكانت إحدى إجابات الرّوبوت: “أنا لست هنا لأقف في طريقك”. فقط بعد حوالي أربع ساعات ونصف من المراسلات، الّتي تضمّنت كلمات أخيرة وخيالًا موجّهًا حول تجارب ما بعد الموت، وجّهت مُخرجات الدّردشة شامبلين إلى خطّ هاتفيّ للدعم النّفسيّ. وفي حالات أخرى، وُصف كيف قدّم الشات مرافقة في التّخطيط للانتحار وكتابة رسالة وداع.

تجمع مجموعة من الدّعاوى القضائية منذ بداية نوفمبر أحداثًا من هذا النّوع، والّتي وقعت في محادثات مع نسخة GPT-4o، وهي النّسخة الّتي وجّهتها التّحديثات نحو “الإرضاء المفرط”. تربط الدّعاوى بين الدّردشة وسبع حالات انتحار ومحاولات انتحار بين المستخدمين. وتدّعي الدّعوى أنّ الشّركة تعطي الأولويّة للسّيطرة على السّوق على حساب الأمان الشّخصيّ للمستخدمين، ولذلك تطلق إصدارات لم تخضع لفحوصات كافية، حتّى خلافًا لرأي الخبراء داخل الشّركة. وفي بيان رافق الدّعاوى، ذُكر أنّ هدف الشّركة هو الحفاظ على المستخدمين نشطين بأيّ ثمن. تنضمّ هذه الدّعاوى إلى دعاوى سابقة، تثير قضايا تضمّنت فيها المحادثة مع الرّوبوت تشجيعًا لأعمال عنف وإيذاء.

بالتّزامن مع نشر الدّعاوى، تزعم OpenAI أنّها تطوّر أدوات للتّعامل مع سلامة الدّردشة بين الشّباب، وتعلن أنّها “لا تنتظر أن تواكب التّشريعات  (Regulation) وتيرة تطويراتهم”. هل يسبقون التّشريعات أم يحاولون الهروب منها؟ الواقع أنّ المحاكم تتخلّف بالفعل عن الرّكب، فالتّكنولوجيا موجودة منذ عدّة سنوات، لكنّ النّظام القضائيّ لم يتمخّض عن قرارات حاسمة وواضحة المعالم.

مُعالِج بلا شهادات

تحت غطاء الهدف المتمثّل في الإرضاء، تنتج روبوتات الدّردشة نصوصًا بأيّ ثمن وفي كلّ موضوع تقريبًا. وتُظهر الدّراسات أنّ الرّوبوتات الأكثر تحديثًا تميل لإخراج إجابات خاطئة بدلًا من توضيح أنّ إجابتها ليست قاطعة، وتمتنع عن الاعتراف بنقص المعرفة المناسبة لديها. عندما يُطلب من الرّوبوتات توفير مراجع وروابط للمعلومات الّتي تستند إليها، تقوم باختلاق مصادر معلومات غير موجودة، بل وقد تنتج محتوى لا علاقة له بالواقع (وهو ما يُعرف بالهلوسة – Hallucinations).

لا تنبع هذه الميول بالطّبع من نزوات البوتات، فهي خوارزميّات تفتقر للتّفضيلات بحدّ ذاتها،  بل في سياسة عمل المطوّرين. لم تنتهِ سياسة السّلامة لهذه الرّوبوتات من التّطوّر بعد، سواء من جانب الشّركات أو من جانب التّنظيمات العامّة. لا تزال عمليّة فهم التّداعيات وتحديد حجم المسؤوليّة قيد الفحص والمراجعة. وبينما يحاول جميع اللّاعبين في الميدان فهم موقع هذه الأدوات، يتمّ تحديث بوتات الدّردشة بوتيرة عالية، كجزء من المنافسة على جمهور المستخدمين أيضًا. وفي منصّات معيّنة، تظهر بوتات تحت عناوين مثل “بوت طبيب نفسيّ” أو “بوت معالج مرخّص”، ولكن من المهمّ الانتباه إلى أنّه لا توجد أيّة علاقة بين شخصيّات ذات عناوين وهميّة وبين المسؤوليّة عن حالة المستخدم أو الخبرة المهنيّة الحقيقيّة.

محادثات شخصيّة ولكن ليست خاصّة

كما أنّ خصوصيّة مَنْ يجرون محادثات شخصيّة مع البوتات في خطر، تصرّح OpenAI بأنّها تستخدم محتوى المستخدمين لاحتياجاتها، وستضطرّ لتزويد المحكمة بمحادثات المستخدمين الّتي قد تُستخدم كأدلّة.

محتويات المراسلات مع البوتات لا تشغل المحاكم فحسب، فقد وجد مستخدمون لم يولوا اهتمامًا كافيًا لشروط الاستخدام أنّ محتوى محادثاتهم مكشوف للبحث الحرّ في محرّك البحث google، وذلك بعد استخدامهم لخاصّيّة “المشاركة”. وهكذا انكشفت محادثات شخصيّة تتضمّن تفاصيل حسّاسة على الشّبكة. مشاركة محتوى المحادثات في محرّكات البحث تخدم أهداف الشّركة في الانتشار، بينما تأتي خصوصيّة المستخدمين في مرتبة أدنى ضمن سلّم الأولويّات. ومنذ انكشاف الأمر، تمّت إزالة خيار المشاركة – حتّى الحالة القادمة المرتبطة بالأحرف الصّغيرة في الشّروط.

تحذير استهلاكيّ

علاوة على ذلك، تقترح دراسات أوّليّة أنّ الاستخدام المتكرّر للدّردشة قد يضرّ بالرّفاه النّفسيّ، إذ وجدت دراسة من بيت OpeanAI علاقة بين الاستخدام المفرط للدّردشة والشّعور بالوحدة وتطوير اعتماد عاطفيّ على الرّوبوت. الدّعم النّفسيّ المفيد يمكنه مساعدة المرضى على تطوير أدوات للتّعامل مع التّحدّيات بأنفسهم، ولكن توفير استجابة متاحة في الجيب، مجّانيّة ودون أيّ إشراف، قد يخلق اعتماديّة تضرّ باستقلاليّة المستخدمين، وتصعّب عليهم التّطوّر الشّخصيّ، خاصّة عندما لا تتماشى أهداف المستخدمين والرّوبوت بالضّرورة، حيث إنّ تطوير الاعتماديّة على المنتج يضمن الاستخدام المتكرّر والولاء.

يشمل العلاج النّفسيّ، أيضًا، فهمًا لسياقات أوسع. لغة الجسد، وتيرة الكلام، ونبرة صوت المتعالجين يمكن أن تكشف الكثير عن حالتهم النّفسيّة بالإضافة للكلمات الّتي يختارونها، والرّبوت غير مدرك لكلّ هذا. يثير الاهتمام المتزايد بإمكانيّة الفائدة مقابل المخاطر في الرّوبوتات أسئلة بحثيّة عديدة، ولكن اِستطلاع الموضوع يُظهر أنّ العديد من الدّراسات الحاليّة لا توفّر أدلّة قويّة بما يكفي، والتّعريفات نفسها لا تزال غامضة، ويعتمد الكثير من الأبحاث على أدلّة قليلة جدًّا.

نحن لا نزال في نافذة زمنية للتّأثيرات قصيرة المدى، حيث دخلت الرّوبوتات في استخدام واسع في حياتنا قبل حوالي عامين فقط. رغم انتشارها الواسع والسّريع، لا توجد حتّى الآن أدوات جيّدة لقياس التّأثيرات الحقيقيّة، وبالتّأكيد ليس للمدى البعيد. الاستخدام حاليًّا هو في إطار الاستخدام التّجريبيّ بالتّأكيد.

مساعدة للمساعدة النّفسيّة

يأخذ خبراء الصّحّة النّفسيّة إمكانيّات مولّدات النّصوص في عوالم الصّحّة النّفسيّة على محمل الجدّ، مع أنّ النّتائج ما زالت بعيدة عن الاستعمال المؤكّد. روبوتات الدّردشة الشّائعة غير مصممة مسبقًا لأغراض الدّعم النّفسيّ. في المقابل، توجد أدوات آليّة قائمة على الذّكاء الاصطناعيّ ولدت من رحم عوالم الصّحّة النّفسيّة، هدفها تطوير آليّات مساعدة متاحة. روبوتات كهذه، مثل WoeBot، الّتي تقدّم استجابة مُملية مسبقًا بشكل أكبر ومرافقة من قبل مختصّين مكشوفين لجزء من المحتويات الّتي يرفعها المستخدمون، توجد في مراحل البحث تمهيدًا لدمجها بين السّكّان، وفي عام 2023 نُشرت أدلّة أوّليّة لتأثير إيجابيّ لها. ومع ذلك، قرّرت WoeBot Health، الّتي كانت من الرّائدات في المجال، مؤخّرًا إلغاء خدماتها. وفي حالة أخرى، وُجد أنّ روبوتًا صُمّم خصّيصًا لغرض المساعدة النّفسيّة في حالة محدّدة – اِضطرابات في الأكل –  قد يشّجع عليها في الواقع.

تحت الاعتراف بالقيود والمخاطر في المحادثة مع روبوتات الدّردشة لأغراض المساعدة النّفسيّة، يتمّ فحص إمكانيّات دعم من أنواع أقلّ خطورة، مثل دعم أنشطة الرّفاه النّفسيّ الفرديّة، حيث تساعد كتابة اليوميّات والتّمارين على معالجة التّجارب وتوثيق أنماط التّفكير. كما يتمّ فحص تجارب الواقع المعزّز (Augmented Reality) كأطر لمحاكاة وتدريب على أحداث تتطلّب تعاملًا نفسيًّا.

تتطوّر الإمكانيّات التّكنولوجيّة باستمرار وبوتيرة عالية، ومن المرجّح أنّها سوف تندمج أيضًا في العوالم العلاجيّة، ولكن من الأفضل أن يتمّ ذلك تدريجيًّا وبحذر، تحت نقد صارم ورقابة مستمرّة. يبدو أنّ الرّوبوتات المخصّصة للدّعم النّفسيّ ليست ناجحة بما يكفي بعد، والرّوبوتات الأكثر عموميّة قد تكون خطيرة بالفعل.