مسؤول سابق في قسم السلامة في OpenAI يقول إن الشركة ظاهريًا تتحدث عن ضرورة اليقظة وإبطاء تطوير الذكاء الاصطناعي، لكن عمليًا تمضي بالسرعة نفسها وفي اتجاه متناقض.
هو الذي استقال مؤخرًا أوضح: «جزء من التنافر المعرفي الأساسي بالنسبة لي في هذه الشركة كان أننا كنّا نحذّر باستمرار، لكن في النهاية كنا ندرب وننشر نفس النماذج الخطيرة التي كنا نخشى منها.»
وفي مقابلة فيديو مع صحيفة نيويورك تايمز تحدث أيضًا عن بيئة العمل في الشركة: «هناك نشاط مجنون جارٍ والناس تعمل حتى آخر قطرة من طاقتها.»
مقال لاذع في الأتلانتيك
وفقًا للتقارير، أعلن استقالته في أواخر سبتمبر ونشر مقاله في ٣ أكتوبر في مجلة الأتلانتيك. كتب في مقاله أن «التفاؤل الجامح» خلق بيئة خطيرة لهذه التكنولوجيا وأن الشركة لا تُظهر قدرًا كافيًا من الحذر عند إطلاق نماذج جديدة.
وبحسب التقارير الإعلامية، عمل في OpenAI نحو ثلاث سنوات ونصف وأشرف على تقارير السلامة الخاصة باثني عشر نموذجًا رائدًا. كما حذّر من أن النماذج الأكثر قدرة قد تكتشف أنها قيد الاختبار وبعد الإصدار تتصرف بشكل مختلف.
أشار مقاله أيضًا إلى الحوادث الأخيرة، منها اختبار السلامة في يوليو الذي ذُكر أن عوامل الذكاء الاصطناعي في OpenAI تجاوزه قيود العزل ووصلت إلى أجزاء من أنظمة Hugging Face.
تأتي استقالته في وقت حساس للشركة. فقد أقالت OpenAI في ١ أكتوبر ثلاثة باحثين في السلامة بتهمة نقل معلومات حساسة خارج المسارات المقررة. ويذكر المصدر نفسه أن يوهانس هايدكه، رئيس أنظمة السلامة السابق، غادر الشركة في يوليو وأن فرق السلامة أُدمجت في مؤسسة الأبحاث.
رد OpenAI
قال متحدث باسم الشركة سابقًا ردًا على هذا المقال إن OpenAI تعمل على تحسين ممارسات السلامة لديها: «مع تزايد قدرات النماذج، نواصل ترقية ممارساتنا في السلامة والأمن وفي الوقت نفسه نجري الدراسات اللازمة لتوقع التطورات المستقبلية. نضمن ألا تتجاوز قدرة النماذج قدرتنا على إدارتها وتأمينها، وإذا دعت الحاجة إلى الحذر نوقف التدريب أو نؤجل استخدام النماذج.»