ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، في أحدث تصريحاته حول سلامة الذكاء الاصطناعي، طالب بإعادة النظر في طريقة تصميم والسيطرة على النماذج المتقدمة. يرى أنه مع تزايد قدرة هذه الأنظمة على اتخاذ القرارات وأداء المهام بشكل مستقل، لا يمكن الاكتفاء بالاعتماد على مخرجاتها فقط، ومن الضروري وضع آليات رقابية وتحكمية أكثر فعالية لها.
ناديلا صباح السبت في رسالة على شبكة التواصل الاجتماعي إكس (X) أعلن أن الوقت قد حان لصناعة التكنولوجيا لأن تخطو خطوة إلى الوراء وتعيد تقييم ما يسميه «بنية الثقة» في الذكاء الاصطناعي.
في هذه الرسالة أشار إلى ضرورة مزيد من الشفافية في أداء النماذج المتقدمة وأكد أنه لا يمكن اعتبار هذه الأنظمة مجرد «صناديق سوداء متداخلة» والاكتفاء بقبول أو رفض التوصيات والإجابات والإجراءات التي تقدمها.
تظهر هذه التصريحات قلق ناديلا بشأن أنظمة تكون عملية اتخاذ القرار الداخلية فيها غير مرئية تمامًا للمستخدمين وحتى للمطورين.
فصل نموذج الذكاء الاصطناعي عن آليات التحكم
أحد أهم اقتراحات الرئيس التنفيذي لمايكروسوفت هو فصل نموذج الذكاء الاصطناعي عن النظام الذي يتولى تنسيق وإدارة أنشطته. يعتقد ناديلا أن الضوابط والتدابير الوقائية لا ينبغي أن تعتمد فقط على النموذج نفسه، بل يجب تصميمها بشكل مستقل وخارج عنه.
تم طرح مثل هذا النهج بهدف إتاحة إمكانية الإشراف والتدخل في أداء النموذج؛ بحيث حتى إذا خرج سلوك نظام الذكاء الاصطناعي عن المسار المتوقع، تظل آليات التحكم قادرة على مراقبة نشاطه.
كما شدد على ضرورة تسجيل وتوثيق الإجراءات الهامة للنماذج الذكية.
بحسب ناديلا، يجب أن يصاحب كل إجراء ذي مغزى من النموذج أدلة قابلة للقراءة من قبل البشر ومقاومة للتلاعب.
تم طرح هذا الاقتراح بهدف زيادة إمكانية مراجعة أداء أنظمة الذكاء الاصطناعي حتى يمكن تقييم إجراءاتها وفي حال حدوث مشكلة، توافر معلومات موثوقة حول الأنشطة التي جرت.
فرامل طوارئ لإيقاف الذكاء الاصطناعي أثناء العمل
جزء مهم آخر من اقتراحات ناديلا يتعلق بإمكانية إيقاف نشاط نماذج الذكاء الاصطناعي.
أكد أن أنظمة الذكاء الاصطناعي يجب أن تُصمم بحيث يمكن لشخص مخول دائمًا إيقاف نشاط النموذج حتى أثناء أداء مهمة أو إيقافه تمامًا.
شبه الرئيس التنفيذي لمايكروسوفت هذه القدرة بـ«فرامل الطوارئ» وقال إن المطورين يجب أن يأخذوا احتمال تعرض نموذج للخطر في الحسبان منذ البداية.
في شرح هذا النهج كتب ناديلا: «يجب أن نفترض أن نموذجًا ما قد تعرض للخطر ونكبته منذ البداية. اعتبروه مثل فرامل طوارئ.»
بموجب هذا المنظور، لا ينبغي أن تعتمد سلامة الذكاء الاصطناعي فقط على قدرة النموذج على اتباع التعليمات، بل يجب توقع إمكانية التدخل وإيقاف نشاطه أيضًا ضمن بنية النظام.
تزايد المخاوف بشأن السيطرة على النماذج المتقدمة
تأتي تصريحات الرئيس التنفيذي لمايكروسوفت في وقت تواجه فيه الشركات الرائدة في صناعة الذكاء الاصطناعي المزيد من الأسئلة حول مدى قابلية السيطرة على النماذج المتقدمة.
ووفقًا لخبر Techcrunch، اعترفت بعض هذه الشركات بوقوع حوادث شهدت خروج سلوك نماذج الذكاء الاصطناعي عن السيطرة المتوقعة أو دلّت على صعوبات في احتواء أدائها. وفي نفس سياق القلق هذا، نشر داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك (Anthropic)، خطة لتطوير أكثر حذرًا للذكاء الاصطناعي.
تستند مقترحات ناديلا إلى المبدأ القائل إن زيادة قدرة نماذج الذكاء الاصطناعي يجب أن تصاحبها تقوية آليات الرقابة وتسجيل الإجراءات وحفظ سلطة الإنسان على التدخل.
خلاصة القول، رسالة الرئيس التنفيذي لمايكروسوفت هي أن الثقة في الذكاء الاصطناعي المتقدم لا تعني تخليًا كاملًا عن السيطرة لهذه الأنظمة. من وجهة نظره، حتى أقوى النماذج يجب أن تعمل ضمن إطار يتيح فحص سلوكها وإيقافها فورًا عند الضرورة.