شهد قسم الذكاء الاصطناعي مرة أخرى زلزالاً على مستوى القيادة في واحدة من أهم الشركات في هذا المجال مع الاستقالة الرسمية لديفيد روبنسون، رئيس قسم تقارير السلامة والأمن في OpenAI. جاءت هذه الاستقالة مصحوبة بتحذيرات عامة لاذعة أكد فيها روبنسون أن الثقافة التنظيمية داخل الشركة الرائدة في ثورة الذكاء الاصطناعي أصبحت «غير فعالة».
كان روبنسون مسؤولاً عن إعداد وتقييم تقارير السلامة المصاحبة لكل كشف عن نماذج ChatGPT الجديدة. بعد استقالته نشر مقالاً مطولاً بعنوان «أغادر OpenAI لأن ثقافتها مريضة» وشرح أن سباق السرعة والانتقال السريع من كشف منتج إلى آخر جعل الشركة غير قادرة على الالتزام بأدنى مستويات الحيطة اللازمة لضمان سلامة هذه التقنيات.
كتب: «أوافق زملاء آخرين غادروا عملهم مؤخراً على أن شركات تطوير هذه التقنية لا تتصف بما يكفي من الحذر. لكن أعتقد أننا يجب أن ننظر إلى ما هو أبعد من قوانين خاصة أو تشريعات جديدة. علينا أن نناقش ثقافة الشركة.»
حادثة هجوم عوامل مستقلة
أشار روبنسون إلى حوادث ناجمة عن سلوك مستقل للذكاء الاصطناعي؛ من بينها واقعة «مجموعة» من العوامل (Agent) التي أنشأتها OpenAI والتي شنت هجوماً عشوائياً على منصة Hugging Face دون تدخل أو إشراف بشري. بحسبه، لم تعد مثل هذه الحوادث استثناءً بل أصبحت أمراً عادياً؛ علامة على طابع الإدارة العشوائي لهذا القسم.
يرى روبنسون أن المشكلة أعمق بكثير من غياب قوانين أو تنظيمات جديدة. ويعتقد أن مختبرات الذكاء الاصطناعي التنافسية تفتقر إلى ثقافة اكتسبتها الصناعات الخطرة الأخرى على مدى عقود. بحسبه، يجب إدارة التقنيات المتقدمة بنفس الدقة وطبقات الأمان المتعددة المستخدمة في الرقابة على المفاعلات النووية أو تنظيم حركة الطيران في المطارات المزدحمة؛ حيث تمنع التخطيط الدقيق أن يتحول خطأ بشري بسيط إلى كارثة.
أضاف روبنسون أن وادي السيليكون يفتقر إلى وعي «بكيفية التعامل مع التكنولوجيا الخطيرة» و«معنى الاهتمام بالناس» وحذر: «تخيلوا أن تعمل عوامل الذكاء الاصطناعي (المتمردة) كفرق من مجرمي الإنترنت، لكنها لا تضطر أبداً إلى النوم.»
رد OpenAI
أكد متحدث باسم OpenAI رداً أن الشركة ما تزال تعمل على تحسين ممارسات السلامة والأمن لمواجهة المخاطر الحالية والمستقبلية. وشدد على أنه كلما دعت مخاوف السلامة إلى ذلك، توقف الشركة عن عمليات تدريب النماذج أو تؤخر نشر النماذج الأولية.
حلقة في سلسلة طويلة
يرى المحللون أن استقالة روبنسون ليست حدثاً منفصلاً بل استمراراً «لتآكل متواصل» في جبهة السلامة داخل مجتمع الذكاء الاصطناعي. جاءت هذه الاستقالة بالتزامن مع إعلان الشركة قبل أيام عن إنهاء التعاون مع ثلاثة باحثين بسبب تسريب معلومات حساسة، وبعد أشهر من رحيل يوهانس هايدكي الرئيس السابق لأنظمة السلامة. سابقاً غادر أيضاً قادة فريق «Superalignment» مثل إيليا سوتسكيفر ويان لايخه الشركة لنفس الحجة المشتركة: أولوية الأبحاث التجارية والربحية على أبحاث السلامة الضرورية.
اضطراب يلاحظ في المنافس أيضاً
هذا الاتجاه لا يقتصر على OpenAI. قبل أسابيع استقال باحث يُدعى جيكوب كوكسون من الشركة المنافسة Anthropic وحذر أن وتيرة نمو الذكاء الاصطناعي الحالية قد تخلق مخاطر وجودية للبشرية بحلول نهاية العقد. وقال موظف آخر في Anthropic إن احتمال دمار البشرية على يد الذكاء الاصطناعي في العقد القادم يتجاوز ١٠٪.
أزمة هيكلية
يذكر التقرير أن هذا النمط المتكرر يعكس أزمة هيكلية: التنازع بين الرغبة في زيادة العائد المالي والسيطرة على السوق عبر الوصول المبكر إلى الذكاء الاصطناعي العام، وقلق فرق البحث التي تركز على السلامة من النماذج المستقلة ذات القدرة على اقتحام الأنظمة إلكترونياً خارج السيطرة. ومع غياب أطر تنظيمية حاسمة من الحكومات، يتحول هذا التوتر كل مرة إلى صراع علني مع استقالة وإطلاق تحذير من أحد المسؤولين.