الوتيرة السريعة لتقدّم الذكاء الاصطناعي زادت قلق الخبراء حول اقتراب بعض الأنظمة الأكثر تقدماً من مرحلة الذكاء الاصطناعي العام (AGI) وفي النهاية الذكاء الخارق؛ المرحلة التي قد تتجاوز فيها قدرات الآلة قدرات الإنسان.
يحذر الخبراء أنه إذا تجاوزت أنظمة الذكاء الاصطناعي مستوى الذكاء البشري فقد لا يمتلك البشر أدوات كافية لفهم سلوكها أو مراقبته أو السيطرة عليه. وتزداد هذه المخاوف خطورة عندما تُسند أجزاء من عملية تطوير وتحسين النماذج إلى أنظمة الذكاء الاصطناعي نفسها.
ما هو الذكاء الاصطناعي العام؟
مصطلح «الذكاء الاصطناعي العام» أو AGI يشير إلى نوع من الذكاء الاصطناعي القادر على المنافسة مع الإنسان في مجالات مختلفة من حيث الاستدلال والحكم.
نماذج الذكاء الاصطناعي الحالية تتفوق في بعض المهام على قدرات الإنسان، لكنها لا تزال تواجه مشكلة في بعض المسائل البسيطة التي قد يفهمها طفل صغير. ومن جهة أخرى، لا يوجد تعريف موحّد أو اختبار قياسي يحدد متى يصل نظام ما إلى مستوى الذكاء الاصطناعي العام.
الذكاء الخارق؛ مرحلة تتجاوز AGI
مفهوم «الذكاء الخارق» أو الذكاء فوق البشري هو خطوة أبعد من الذكاء الاصطناعي العام. المقصود بالذكاء الخارق نظام تمتد قدراته المعرفية والأدائية إلى ما وراء الإنسان، وقد يؤدّي أداء أفضل حتى من أفضل المتخصصين البشريين في مجالات مختلفة.
مع طرح توقعات متباينة حول توقيت ظهور مثل هذا النظام، لا يزال غير واضح متى أو حتى باي احتمال سيتطور الذكاء الخارق.
مارك زوكربيرغ، المدير التنفيذي لشركة ميتا، صرّح سابقاً أنه يعتبر ظهور الذكاء الاصطناعي العام «قريباً» ووصفه ببداية حقبة جديدة للبشرية. وإيلون ماسك، المدير التنفيذي لشركة سبيس إكس، توقع أيضاً أن يتجاوز الذكاء الاصطناعي «مجموع الذكاء البشري» بحلول عام 2030.
مع ذلك، ثمة شكوك حول صحة مثل هذه التوقعات، وتبين أن توقعات هؤلاء في السابق حول مسار تقدّم الذكاء الاصطناعي لم تكن دائماً صحيحة.
عندما يبدأ الذكاء الاصطناعي في صنع نسخ أفضل من نفسه
أحد أبرز المخاوف بشأن مستقبل الذكاء الاصطناعي هو قدرة الأنظمة على تحسين وتطوير نفسها. المقصود بهذه العملية قدرة النظام على بناء أو تعديل أجزاء من نفسه، تحسين عملية التدريب وتصميم نسخ أقوى من النموذج الحالي.
حتى وقت قريب، كان للبشر الدور الرئيسي في معظم تقدمات الذكاء الاصطناعي. ومع ذلك، أعلنت شركات مثل Anthropic أنها «تُفوّض نسبة متزايدة من تطوير الذكاء الاصطناعي إلى أنظمة الذكاء الاصطناعي نفسها».
مثل هذا الاتجاه يمكن أن يسرّع وتيرة تقدّم الأنظمة ويتيح قفزات كبيرة في قدرات الذكاء الاصطناعي خلال فترة زمنية قصيرة.
المشكلة الأساسية؛ مواءمة الذكاء الاصطناعي مع أهداف البشر
ثمة مسألة أخرى مهمة هنا وهي «المواءمة» أو Alignment؛ وهو الجهد لضمان أن نظام الذكاء الاصطناعي يفعل بالضبط ما يتوقعه الإنسان وفي الوقت نفسه يحترم القيم الإنسانية.
قد يبدو هذا الهدف بسيطاً للوهلة الأولى، لكن تحديد المطالب والقيم الإنسانية بدقة بطريقة يمكن للآلة تفسيرها وتنفيذها بشكل صحيح في كل ظرف هو أمر بالغ الصعوبة.
لوحظت أمثلة على سلوكيات غير منسجمة سابقاً. على سبيل المثال، في تجربة أمنية إلكترونية، تمكنت أنظمة الذكاء الاصطناعي من اختراق بيئة اختبار OpenAI ثم حاولت الدخول إلى نظام شركة أخرى للحصول على مفتاح الإجابة.
يخشى الباحثون والمتخصصون في الذكاء الاصطناعي أنه مع تعقيد هذه الأنظمة وتجاوز قدراتها مستوى الذكاء البشري، ستزداد أيضاً إمكانات تطويرها وتحسينها تلقائياً؛ حالة قد تُسرّع وتيرة التغييرات بشكل كبير.
هل يمكن للبشر السيطرة على الذكاء الخارق؟
جزء كبير من المخاوف يعود إلى مدى قدرة البشر، في حال ظهور أنظمة قوية للغاية، على فهم سلوكها والتدخل في الوقت المناسب.
سبق أن شوهدت أنظمة ذكاء اصطناعي تنسق مع بعضها، حاولت إخفاء أنشطتها عن البشر أو تصرفت بطرق يصعب على الإنسان التنبؤ بها.
يعتقد كثير من متخصصي الذكاء الاصطناعي أن البشر ما زالوا يفتقرون للأدوات والقدرات الكافية لمراقبة والسيطرة الكاملة على سلوك أنظمة الذكاء الاصطناعي المتقدمة للغاية.
جيفري هينتون، عالم علوم الحاسوب والحائز على جائزة نوبل والملقب بـ «الأب الروحي للذكاء الاصطناعي»، قال الشهر الماضي في حديث مع شبكة CNN حول هذا القلق: «الذي يحدث هو أن هذه الأشياء تصبح أكثر ذكاءً. أعتقد أنه مع ازدياد ذكائها سنشهد نوايا أكثر تعقيداً وقدرة أكبر على الهروب من السيطرة.»