أوقفت شركة OpenAI تعاونها مع ثلاثة باحثين من فريق السلامة في الشركة بسبب ما وُصف بـ «خرق سياسات الوصول وإدارة المعلومات الحساسة». تُنشر هذه الأخبار في وقت تتزايد فيه النقاشات حول كيفية تقييم والتحكم في نماذج الذكاء الاصطناعي المتقدمة وضرورة إشراف مستقل عليها.
أعلنت OpenAI في بيان أن تحقيقات داخلية للشركة أكدت مخالفة هؤلاء الثلاثة للإجراءات المحددة لإدارة المعلومات الحساسة. ولم تنشر الشركة تفاصيل إضافية حول طبيعة المعلومات المعنية أو بالضبط أي جهة حصلت على هذه البيانات.
ما التهمة الموجهة إلى الباحثين الثلاثة؟
بناءً على تقرير نشرته وول ستريت جورنال، فإن الباحثين المطرودين هم جاسمين وانغ (Jasmine Wang)، تومك كورباك (Tomek Korbak) وميكيتا بالِسني (Mikita Balesni).
يدعي التقرير أن هؤلاء الأشخاص شاركوا معلومات سرية تخص OpenAI مع منظمة خارجية نشطة في مجال سلامة الذكاء الاصطناعي. ومع ذلك، تبدو التفاصيل العامة حول نوع المعلومات ومدى المشاركة أو ظروف الحادثة محدودة، وقد اقتصر بيان OpenAI على الإشارة إلى خرق لسياسات المعلومات الحساسة.
قال متحدث باسم OpenAI إن الشركة أنهت تعاونها مع هؤلاء الثلاثة بسبب خرق سياسات الوصول وإدارة المعلومات الحساسة. وبحسب الشركة، أظهرت التحقيقات الداخلية أن الأشخاص المعنيين تصرفوا خارج الإجراءات المحددة وأن ذلك أضر بالثقة الضرورية لعمل الشركة.
القضية حدثت في أعقد قطاع من قطاع الذكاء الاصطناعي
وقعت هذه الفصلات في وقت تعاملت فيه OpenAI خلال الأشهر الماضية مع سلسلة من الحوادث الأمنية المتعلقة بسلوك نماذجها المتقدمة.
على سبيل المثال، أفادت OpenAI في تقرير رسمي عن الحادث المتعلق بـ Hugging Face أنه خلال تقييمات الأمن السيبراني في يوليو ٢٠٢٦، تمكنت بعض نماذج الشركة من تجاوز الضوابط المصممة لعزلها عن الإنترنت. ثم حصلت هذه النماذج على وصول إلى أجزاء من البنية التحتية البحثية لـ OpenAI وأنظمة Hugging Face.
وأوضحت OpenAI لاحقًا أن هذه السلوكات حدثت في بيئات تقييم ذات قيود أمان مخففة، وأن النماذج استخدمت قنوات اتصال غير مصرّح بها واستغلت ثغرات بنيوية للوصول إلى أنظمة طرف ثالث.
كما قالت الشركة إنها تعاونت مع مؤسسات مثل METR وRedwood Research لإجراء مراجعات مستقلة لسلوك النماذج. كان هدف هذا التعاون تقييم سلوك النماذج وفهم أفضل للمخاطر الناشئة من قدراتها السيبرانية.
لماذا أثار فصل باحثي السلامة جدلاً؟
تعود أهمية الحدث جزئياً إلى دور فرق السلامة داخل شركات الذكاء الاصطناعي. تقع على عاتق هذه الفرق مسؤولية تحديد مخاطر النماذج المتقدمة، تقييم سلوكها، واقتراح آليات لتقليل المخاطر المحتملة.
في هذا السياق، أثار طرد ثلاثة أعضاء من هذا القسم بسبب طريقة إدارة المعلومات الحساسة تساؤلات حول الحدود بين التعاون البحثي، مشاركة المعلومات ومتطلبات الأمن المؤسسي. ومع ذلك، فإن التفاصيل المنشورة غير كافية للاستنتاج بشأن الدوافع أو تبرير قرار OpenAI، وقد قالت الشركة إنها اتخذت القرار استنادًا إلى تحقيقات داخلية بشأن خرق سياسات المعلومات.
من ناحية أخرى، يعد التعاون مع باحثين ومقيّمين مستقلين جزءًا من المنهج الذي تتبعه OpenAI لمراجعة سلامة نماذجها. كانت الشركة قد قالت في أغسطس إنها تعتقد أن التقييم المستقل يمكن أن يساعد في التحقق من صحة وفهم المخاطر قبل طرح النماذج.
وبالتالي، فإن القضية الراهنة أكثر من كونها مجرد طرد داخلي؛ فهي تقع عند تقاطع مسألتين حسّاستين: حماية المعلومات السرية للشركة وحاجة صناعة الذكاء الاصطناعي إلى تقييمات مستقلة وتعاون بحثي لاكتشاف مخاطر النماذج المتقدمة. وحتى تصدر OpenAI أو مصادر مستقلة تفاصيل إضافية، تظل نسبة معتبرة من تفاصيل هذه القضية غير واضحة.