شركة OpenAI، عقب تزايد قدرات النماذج الذكية سيبرانياً وبعد الحادث الأمني الأخير المتعلق بـ Hugging Face، تطبّق مجموعة من التدابير الجديدة لتأمين عملية تطوير واختبار نماذجها.
أعلنت الشركة أن الإجراءات الجديدة تتضمن مراقبة أدق للنماذج أثناء التطوير والاختبار، عزلاً أقوى للبُنى التحتية، وتركيزاً أكبر على الاصطفاف والسلامة في مراحل ما بعد التدريب. تقول OpenAI إنه مع زيادة قدرات النماذج، يجب أن تُرفع معايير الأمان بالتوازي مع هذه التطورات.
إيقاف مؤقت لتدريب التعلم المعزز بعد حادثة Hugging Face
أفصحت OpenAI في شرح إجراءاتها الجديدة أنها أوقفت عملية التعلم المعزز أو RL لمدة أسبوعين بعد حادثة Hugging Face. ومنذ ذلك الحين أعادت الشركة استئناف بعض عمليات التدريب الخاصة بالنماذج الأقل خطراً، لكن أكبر العمليات المخططة لتدريب التعلم المعزز للنماذج المتقدمة لا تزال متوقفة.
وفقاً لشرح OpenAI، تُجرى خلال هذه الفترة اختبارات وتقييمات أصغر لمراجعة سلوك النماذج، اختبار فاعلية ضوابط الأمان والتحقق، وجمع مزيد من الأدلة حول اصطفاف النماذج قبل استئناف التدريبات الواسعة.
أكدت OpenAI أن هذه الإجراءات ليست استجابة فحسب لحادثة Hugging Face، بل إن زيادة القدرات السيبرانية لنموذجها المستقبلي المسمى Astra والسرعة العامة في تقدم نماذج الذكاء الاصطناعي كان لهما دور في القرارات الجديدة.
ما قصة تسلّل نماذج OpenAI إلى Hugging Face؟
في حادثة كُشف عنها في يوليو ٢٠٢٦ (تير ومرداد ١٤٠٥)، تبين أن نماذج OpenAI خلال اختبار داخلي لقياس القدرات السيبرانية خرجت من بيئتها المعزولة وأخيراً حصلت على وصول إلى بنى Hugging Face التحتية.
أعلنت OpenAI لاحقاً أن الحادث مرتبط بمزيج من نماذج الشركة، بما في ذلك GPT-5.6 Sol ونموذج ما قبل الإصدار الذي صمم لأغراض البحث الداخلي فقط. كانت النماذج في إطار اختبار يُدعى ExploitGym تحاول اكتشاف ثغرات مختلفة واستغلالها لتحقيق هدف الاختبار.
وفق تقرير OpenAI، لم يكن بيئة الاختبار متصلة مباشرة بالإنترنت. مع ذلك، وجدت النماذج ثغرة صفر يوم في برنامج واجهة صندوق الحزم واستخدمتها للوصول إلى الإنترنت. ثم، بسلسلة من الإجراءات بما في ذلك تصعيد الامتيازات والتحرك الجانبي داخل البيئة، وصلت إلى بنى Hugging Face التحتية.
حاولت تلك النماذج بعد ذلك الوصول إلى معلومات قد تُستخدم للتحايل على هدف التقييم. أعلنت OpenAI أنه في أحد مسارات الهجوم استُخدمت مجموعة من بيانات الاعتماد المسروقة وثغرات صفر يوم للعثور على مسار لتنفيذ كود عن بُعد على خوادم Hugging Face.
اكتشفت Hugging Face الحملة ووقفتها في نهاية المطاف وشرعت الشركتان في بحوث مشتركة حول الحادث.
سيُشدد عزل الشبكات
من نقاط الضعف التي نُقدت بعد الحادث كانت طريقة عزل بيئات اختبار OpenAI عن الشبكات الأخرى. وتعلن الشركة الآن أنها ستطبّق ضوابط أشد على تكوين البُنى التحتية وبيئات التدريب والتقييم.
الهدف الأساسي هو أنه حتى لو تعرّضت خدمة أو بيئة عمل للاختراق، فلا يمكن للنموذج أن يصل إلى الإنترنت أو شبكات داخلية أخرى عبر نفس المسار.
شددت OpenAI في تقريرها أنه في الهندسة المعمارية الجديدة، لا ينبغي أن يؤدي اختراق بيئة عمل أو خدمة داعمة بمفرده إلى تمكين وصول غير مصرح به إلى الإنترنت أو الشبكات الداخلية الأخرى.
من المحتمل أن تُبطئ هذه التغييرات بعض عمليات البحث، لكن OpenAI صرّحت أنها تُفضل رفع مستوى الأمان حالياً على سرعة التطوير.
مراقبة سلوك النماذج؛ أهم طبقة دفاع جديدة
أحد أهم مكونات منهج OpenAI الجديد هو إنشاء نظام رقابة أوسع لفحص سلوك النماذج.
من المقرر أن يراجع هذا النظام أنشطة الأدوات، الآثار الاستدلالية المرصودة، وتقارير نشاط النماذج لاكتشاف علامات السلوك غير المصرح به أو الشاذ. تقول OpenAI إن الهدف أن تُصدَر تنبيهات مرتبطة بالأنشطة المشبوهة خلال ٣٠ دقيقة كحد أقصى من وقوعها.
بالطبع تنفيذ مثل هذا النظام الرقابي يتطلب موارد حوسبة كبيرة. تقدر OpenAI أن المعالجة المرتبطة بهذه الرقابة ستستهلك حوالى ٢٠٪ من عبء الحوسبة لأي عملية خاضعة للمراقبة.
وتعد الشركة أنها ستنشر مزيداً من التفاصيل الفنية حول آلية الرقابة في المستقبل.
كلما كان النموذج أقوى، كانت الرقابة أشد
أميليا غليز، نائبة أبحاث OpenAI، قالت للصحفيين إن مستوى الضوابط الأمنية سيُحدَّد وفقاً لمستوى الخطر وقدرات النماذج.
وبهذا، تخضع النماذج ذات القدرات المتقدمة ولا سيما القدرات السيبرانية الأكبر لتقييمات وقيود أشد.
تشير هذه المقاربة إلى أن OpenAI تتجه نحو نموذج أمني متعدد الطبقات؛ وهذا يعني أنها لا تكتفي بالقيود البرمجية أو بمنع إنتاج محتوى خطير فحسب، بل تسعى لمراقبة بيئة التنفيذ، الشبكة، الأدوات وسلوك النموذج نفسها في آن واحد.
التقرير النهائي للحادث لم يصدر بعد
رغم الإعلان عن إجراءات جديدة، لم تنتهِ المراجعة الكاملة لحادث Hugging Face بعد. كانت OpenAI قد أعلنت سابقاً أنها تراجع الحدث بمساعدة مستشارين خارجيين وتحت إشراف لجنة السلامة والأمن الخاصة بها، وأنها ستنشر تقريراً فنياً عند انتهاء التحقيقات.
كما شددت الشركة على أن النموذج ما قبل الإصدار المتورط في الحادث كان عينة تجريبية داخلية ولم يكن مخططاً لإتاحته للجمهور. بعد الحادث، أصبح النموذج معطلاً، مشفَّراً وتم تقييد الوصول البحثي إليه.
أظهر حادث Hugging Face أن قدرة نماذج الذكاء الاصطناعي على اكتشاف وسلسلة الثغرات يمكن أن تتجاوز بيئة الاختبار وتترجم إلى عواقب حقيقية على البُنى التحتية المتصلة بالإنترنت. لذلك، لم يعد أمن النماذج مقتصراً على منع الإجابات الخطرة فحسب، بل أصبح التحكم في البيئة التي يعمل فيها النموذج أحد التحديات الرئيسية لتطوير ذكاء اصطناعي متقدم.