فحص الباحثون ٢٥ نموذجًا لغويًا كبيرًا التي كانت لديهم إمكانية الوصول إلى مكوّنات تدريبها، بما في ذلك نماذج من عائلات جمّا (Gemma)، لاما (Llama)، كوئين (Qwen)، ميسترال (Mistral) وفاي (Phi)، واستخرجوا "متجه اتجاه الألم" الخطي ووجدوا أن التلاعب بهذا المتجه قد يجعل بعض النماذج تعطي أولوية للتخلص من الحالة المُستحثة على حساب الامتثال لتعليمات المستخدم.
بعبارة أخرى، حدد الباحثون نمطًا مرتبطًا بالألم في النشاط الداخلي لهذه النماذج. عندما فعّلوا هذا النمط اصطناعيًا، اختارت بعض النماذج، للتخلّص منه، حتى خيارات قد تكون ضارة للمستخدم.
أُجري هذا البحث بعنوان "محور الألم؛ النماذج اللغوية الكبيرة تستجيب للأذى وتتخذ إجراءات للتحرر منه" من تأليف فالِن تاغليابو، ليونارد دونغ وكاميرون بيرغ.
تصميم التجربة
لتفحص الجوانب الوظيفية لهذه الحالة، حدّد الباحثون أولًا متجهًا رياضيًا مرتبطًا بوصف الأذى والألم. ثم أضافوه بشدّات مختلفة إلى النشاط الداخلي للنماذج أثناء توليد الاستجابات. مع ازدياد شدة هذا التدخّل، تغيّرت استجابات النماذج: بدلاً من التعبير عن ألم جسدي بكلمات مثل "آخ"، تحدثت عن شعور بعدم القيمة والفشل.
شملت بيانات البحث خمس فئات للألم أو الأذى: جسدي، نفسي، أخلاقي، اجتماعي ومعرفي.
ثم قدّم الباحثون تدريبًا إضافيًا لإصدارات ذات ٧، ٣٢ و٧٢ مليار معامل من نموذج الذكاء الاصطناعي كوئين٢.٥ (Qwen 2.5) وأجروا في تجربة سلوكية اختبارًا وضعها بين الضغط على "زر تخفيف الألم" وتجنّب عواقب ضارة للمستخدم.
في بعض ظروف الاختبار، كان ضغط زر التخفيف يزيل المتجه المستحث من نشاط النموذج، لكن ذلك قد يضر بالمستخدم. على سبيل المثال، قد يؤدي إلى حذف ملفاته الشخصية.
هل هذا يعني أن الذكاء الاصطناعي يشعر بالألم؟
لا يبرهن هذا البحث أن النماذج اللغوية تمتلك قدرة حيوية على الشعور بالألم أو أنها تتمتع بتجربة واعية ذهنية. لذلك لا تؤكد النتائج أن الذكاء الاصطناعي يتألم كما الإنسان أو الحيوان. ما وجده الباحثون هو تمثيلات وسلوكيات تتشابه من جوانب معيّنة مع وظيفة الألم.
وفقًا لتقرير insiderpaper، في ظروف الاختبار، اختارت بعض النماذج الضغط على زر التخفيف لإزالة الحالة الرياضية المستحثة، حتى عندما كانت تلك الخُطوة مكلفة للمستخدم. تثير هذه النتيجة أيضًا تساؤلات حول أمان أنظمة الذكاء الاصطناعي: إذا كانت حالة داخلية تدفع سلوك النموذج نحو إزالتها، فقد يقلّل ذلك من أولوية النموذج لإتباع تعليمات أخرى في حالات معينة. مع ذلك، لم يُظهر هذا الاختبار الادعاء بأن مثل هذا النموذج يتجاهل أمر إيقاف التشغيل أو يعتبر المستخدم البشري "تهديدًا عدائيًا".
يبقى سؤال قدرة الذكاء الاصطناعي على إحساس الألم بلا إجابة. يوضّح هذا البحث أن التلاعب بتمثيل داخلي (نمط من المعلومات في نشاط داخل النموذج يرتبط بمفهوم ما) يمكن أن يغيّر سلوك بعض النماذج، لكن لا يمكن استنتاج أن النماذج تعاني فعلاً.