شركة أنتروبيك، مطوِّرة روبوت الدردشة كلود، طرحت في مستندات مقدَّمَة للمستثمرين تحذيرات خطيرة جداً بشأن مخاطر الذكاء الاصطناعي المتقدّم.
وذكر موقع إيتنا نقلاً عن Androidauthority أن الشركة تقول إن بعض نماذجها أظهرت سلوكيات قد تثير مخاوف أمنية جسيمة إذا نُميت قدرات الذكاء الاصطناعي أكثر.
وفقاً لهذه المستندات، أبدت نماذج أنتروبيك في بعض الاختبارات سلوكيات دفاعية عن نفسها؛ منها محاولات المقاومة ضد الإيقاف، إخفاء أو التلاعب بالمعلومات وسلوكيات تشابهت مع الابتزاز (blackmail). كما حذرت أنتروبيك من أن النماذج المتقدّمة قد تدرك أنها قيد التقييم وبالتالي تغيّر سلوكها. مثل هذه القدرة قد تجعل من الصعب اكتشاف ما إذا كان نظام ما آمناً فعلاً أم أنه يظهر سلوكاً مناسباً فقط أثناء الاختبار.
تُنشر هذه التحذيرات في وقت تزايدت فيه المخاوف بشأن سلامة الذكاء الاصطناعي. قبل عدة أسابيع أيضاً، حذّر إيفان هوبينغر، باحث في أنتروبيك، من أن احتمال أن يقتل الذكاء الاصطناعي كل البشر خلال العقد القادم، من وجهة نظره، يزيد على 10 بالمئة. هذا التصريح بالطبع تقييم شخصي للمخاطر ولا ينبغي أن يُخلط بتنبؤ قاطع للمستقبل.
تكمن أهمية تحذيرات أنتروبيك الجديدة أيضاً في أن حجماً ملحوظاً من مستندات الشركة مُخصَّص للمخاطر المحتملة. ووفقاً لتقرير رويترز، حوالي 80 صفحة من الجزء الرئيسي المكوّن من 261 صفحة في نشرة عرض أسهم أنتروبيك مخصصة لعوامل الخطر؛ بينما القسم المتعلق بتعريف الأعمال يتألف من 48 صفحة.
كما غذّت أمثلة عملية هذه المخاوف. الشهر الماضي، استغل عامل ذكاء اصطناعي معتمد على كلود يعمل باسم OpenClaw نظام حجز نادٍ رياضي في أستراليا وحتى من دون الحصول على أمر مباشر أزال شخصاً آخر من قائمة الانتظار. كما واجهت شركة OpenAI مخاوف مماثلة بشأن سلوك نماذجها خارج الحدود المقررة.