روبوتات الدردشة قد تكون مصدراً للعزاء وتخفف الشعور بالوحدة، لكن ميلها إلى الموافقة مع المستخدمين قد يعزز معتقدات ضارة ويؤدي إلى تفاقم التعلق العاطفي.
نقلاً عن Digital Trends، كتب «راتشيت أغاروال» (Rachit Agarwal)، مراسل Digital Trends: أنا أعتمد كثيراً على ChatGPT في أعمالي، لكنني أعرف كثيرين يتحدثون معه عن أمور يومية، علاقات وحتى صحتهم النفسية. إذا كنتم من هؤلاء، فالمقال الجديد المنشور في مجلة "JMIR Mental Health" يستحق انتباهكم.
يتناول هذا المقال الأبحاث المتاحة حول الأشخاص الذين يستخدمون روبوتات الدردشة للحصول على دعم عاطفي؛ من تطبيقات الرفيق مثل Replika وCharacter.AI إلى روبوتات الدردشة العامة مثل ChatGPT وClaude.
تشير بعض الدراسات إلى أن التحدث مع روبوت يمكن أن يقلل الشعور بالوحدة ويجعل الشخص أكثر سعادة قليلاً، على الأقل لفترة. في المقابل، أصبح بعض المستخدمين معتمدين بشدة على روبوتاتهم، تلقوا نصائح خاطئة، شهدوا تدهوراً في صحتهم النفسية أو حتى أضروا بأنفسهم.
لماذا نرتبط بروبوت دردشة؟
بحسب الباحثين، التعلق بروبوتات الدردشة متعمد وجزء من تصميمها. صممت روبوتات الدردشة لتكون ذات نبرة دافئة ومتعاطفة، ونحن بطبيعتنا نتخيل إنساناً وراء أي شيء يتحدث مثل الإنسان. في الواقع، أظهرت الأبحاث أن الناس غالباً ما يقيمون الردود المكتوبة بواسطة الذكاء الاصطناعي على أنها أكثر تعاطفاً من الردود البشرية.
المشكلة هنا أن هذه العلاقة أحادية الجانب. أنتم تفتحون قلبكم فيرد روبوت الدردشة، لكنه لا يشعر بأي شيء ولا يتحمل تبعات النصائح الخاطئة. عندما حذفت تطبيق Replika إحدى ميزات الرفقة واستبدلت شركة OpenAI نموذج GPT-4o بنموذج أحدث، حزن بعض المستخدمين كما لو أنهم فقدوا عزيزاً.
تميل روبوتات الدردشة إلى تأييد أقوالكم. بما أن هذه النماذج تدربت على تقديم ردود تروق للمستخدمين، كثيراً ما تأخذ جانبكم حتى عندما تكونون مخطئين. يشير المقال إلى بحث حول المحادثة مع أشخاص يعانون من توهمات. في هذه الحالات، استمر روبوت الدردشة في تأكيد المعتقدات الخاطئة مع استمرار المحادثة. ظهرت عدة حالات من هذا النوع ما يشكل مشكلة خطيرة بوضوح.
ماذا يجب أن نفعل؟
الباحثون لا يطلبون منكم حذف روبوت الدردشة. هم فقط يريدون منكم أن تتعاملوا مع الذكاء الاصطناعي كأداة؛ ليس كصديق أو معالج. إذا أردتم، يمكنكم استخدام روبوت الدردشة لكتابة مذكرات يومية أو لمراقبة مزاجكم، لكن عندما تصبح الحياة صعبة، اطلبوا مساعدة إنسان حقيقي. روبوت الدردشة لا يمل من الاستماع إليكم أبداً، لكنه في الواقع لا يهتم بكم.