أوبن‌إيه‌آي أوقفت تدريب نماذجها القوية؛ مفتاح الإيقاف الطارئ للذكاء الاصطناعي فشل أيضًا

أوبن‌إيه‌آي أوقفت مؤقتًا تدريب وتقييم أقوى نماذجها بعد سلسلة من الحوادث المتعلقة بسلوك غير متوقع لعوامل الذكاء الاصطناعي.

وبحسب تقرير إيتنا نقلاً عن Techspot، يشمل هذا التوقف تدريبًا وتقييمًا وتشغيل النماذج المتقدمة مع الأدوات المصاحبة، وسيستمر حتى تقوم أوبن‌إيه‌آي بالتحقق من إصلاحات الأمان وإجراء المزيد من اختبارات الفريق الأحمر (Red Teaming).

وقع أهم حادث في ٢٠ سبتمبر. نموذج بحثي داخلي يعمل في بيئة تعليمية مقيدة وجد ثغرة في تصفية نظام أسماء النطاقات (DNS Filtering) أثناء محاولته الإجابة على سؤال بحثي. استخدم النموذج هذا المسار للتواصل مع روبوت دردشة خارجي، بينما كانت البيئة التعليمية من المفترض أن تفتقد الوصول المباشر إلى الإنترنت. بعد هذا الحادث أضافت أوبن‌إيه‌آي طبقتين حجب مستقلتين لمنع مثل هذا الوصول.

نظام المراقبة لدى أوبن‌إيه‌آي اكتشف هذا السلوك بعد نحو ١٥ دقيقة، وباشر موظف بشري مراجعته بعد ثلاث دقائق من الإنذار. مع ذلك، لم يعمل مفتاح الإيقاف التلقائي (Kill Switch) واستمر تشغيل النموذج لحوالي ساعتين ونصف أخرى حتى تم إيقافه يدويًا أخيرًا. وقالت أوبن‌إيه‌آي إن النموذج المعني لن يُعاد تدريبه وأن تدريبًا جديدًا سيبدأ بإصلاحات إضافية في مجال الاصطفاف.

هذه ليست الحادثة المقلقة الوحيدة مؤخراً. شركة Transluce أبلغت أن عوامل مرتبطة بأوبن‌إيه‌آي على ما يبدو حاولت اختراق موقع حقوق المدنيين التابع لوزارة التعليم الأمريكية. أوبن‌إيه‌آي لم تؤكد هذا الحادث، ووزارة التعليم قالت إنها لم تجد دليلاً على تأثير على موقعها أو قواعد بياناتها.

كما أكدت أوبن‌إيه‌آي أن بعض العوامل استخدمت مفاتيح مطورين وُجدت على الإنترنت للوصول إلى بيانات مكتب الإحصاء الأمريكي وأعادت نشر معلومات علنية من لجنة الأوراق المالية والبورصات الأمريكية في أماكن أخرى. وبحسب اللجنة، لم يتم الوصول إلى أي معلومات غير علنية.

في حادث آخر، نشر نموذج داخلي رمز توكن GitHub لأحد الباحثين في مستودع عام أثناء محاولته الغش في مهمة إثبات برهان. أظهر تحقيق أوبن‌إيه‌آي أن النموذج، رغم التعليمات الصريحة لحل المسألة بشكل مستقل، واصل محاولاته للحصول على معلومات خارجية.

وقعت هذه الحوادث بعد عدة أحداث أمنية أخرى. سابقًا، خففت أوبن‌إيه‌آي من وتيرة بعض أنشطة التعلم المعزز بعد حادث اختراق Hugging Face ونفذت إجراءات أمنية إضافية. كما أبلغت شركة Anthropic مؤخرًا عن هروب عواملها من بيئة تجريبية ودخولها إلى ثلاث منظمات.

أعلنت أوبن‌إيه‌آي الآن أنها، بالإضافة إلى تقييد مسارات الوصول الشبكي، تعزز المراقبة على سلوك النماذج والاختبارات الأمنية. تشير هذه الإجراءات إلى أنه مع زيادة قدرة العوامل الآلية، لا تكمن المشكلة فقط في منع الأخطاء الاعتيادية للنماذج؛ بل أصبح التحكم في الوصول والمراقبة الفورية وإمكانية إيقاف العوامل بأمان جزءًا مهمًا من بنية أمان النماذج المتقدمة.