ثلاث شركات كبرى نشطة في مجال الذكاء الاصطناعي، وهي جوجل وOpenAI وAnthropic، بدأت في الأسابيع الأخيرة محادثات حول إنشاء مؤسسة لصياغة معايير مشتركة لاختبار وتقييم النماذج المتقدمة. لم تسفر هذه المحادثات بعد عن اتفاق نهائي أو تأسيس رسمي لمثل هذه المؤسسة، لكن التقارير تشير إلى أن المفاوضات تقدمت في هذا المجال.
الهدف الرئيسي من هذا التعاون المحتمل هو وضع منهج مشترك لقياس أمان النماذج المتقدمة وتوفير إمكانية تقييم مستقل لها قبل طرحها للمستخدمين. تُثار هذه المناقشات في ظل سعي شركات الذكاء الاصطناعي أكثر من أي وقت مضى إلى توحيد طرق اختبار النماذج، وإجراء تقييمات مستقلة، وتحديد آليات أوضح للإبلاغ عن الحوادث والسلوكيات غير المتوقعة للنظم الذكية.
السعي لإنشاء معايير تتجاوز اللوائح الحكومية
أعلنت OpenAI في أوائل سبتمبر عن رغبتها في التعاون مع مختبرات ذكاء اصطناعي أخرى لصياغة "معايير صناعية". جادلت الشركة بأن اللوائح الحكومية وحدها قد لا تواكب بسرعة تطور قدرات النماذج المتقدمة والمخاطر المحتملة الناجمة عنها.
طبعًا لا يُقصد من المعايير الصناعية المقترحة أن تحل محل القوانين الحكومية أو إشراف الجهات الرسمية. قد يكون هدف مثل هذه المعايير إنشاء آلية أسرع لاكتشاف وإدارة المخاطر الجديدة؛ لا سيما المخاطر المتعلقة بكيفية تصرف النماذج، وقدرتها على تجاوز القيود المفروضة، والإبلاغ عن الحوادث.
سبق لـ OpenAI أن اتخذت خطوات لخلق أطر تقييم مستقلة. نشرت الشركة في شهر مايو دليلًا مقترحًا لاختبار النماذج المتقدمة بشكل مستقل بواسطة مقيمين من الطرف الثالث. وفق هذا المنظور، أدى تزايد استقلال النماذج، ووصولها إلى أدوات، وقدرتها على تنفيذ سلسلة طويلة من المهام إلى أن طرق تقييم الشات بوت التقليدية لم تعد كافية لقياس كامل لقدرات ومخاطر هذه النظم.
كما أعلنت الشركة في يونيو عن مشاركتها في تأسيس مؤسسة Appia؛ مؤسسة تهدف إلى تطوير مواصفات مفتوحة وقابلة للتنفيذ لتحويل المعايير الدولية للذكاء الاصطناعي إلى اختبارات عملية. بالإضافة إلى ذلك تشارك OpenAI في عدد من مبادرات التقييس والأمان، بما في ذلك الأنشطة المتعلقة بـ ISO وNIST والتحالف من أجل ذكاء اصطناعي آمن.
اقتراح جوجل لمؤسسة مستقلة
جزء آخر من النقاشات الحالية يعود إلى اقتراح جوجل في يونيو. اقترحت الشركة إنشاء مؤسسة مستقلة ومدعومة من الصناعة، لكن تحت إشراف الحكومة الفدرالية الأمريكية. يمكن أن تكون مثل هذه المؤسسة مسؤولة عن صياغة معايير الأمان للنماذج المتقدمة وضمان إجراء تدقيقات مستقلة.
قدم ديميس هاسابيس، المدير التنفيذي لـ Google DeepMind، في يوليو مزيدًا من التفاصيل حول هذه الفكرة واقترح نموذجًا شبيهًا بالهيئات الرقابية في القطاع المالي. وفق الاقتراح، يمكن لمختبرات الذكاء الاصطناعي أن تقدم نماذجها المتقدمة إلى هذه المؤسسة نحو 30 يومًا قبل الإطلاق لإجراء مجموعة من اختبارات الأمان عليها.
يمكن أن تختبر هذه الإجراءات المخاطر المحتملة للنماذج في مجالات مثل الأمن السيبراني والبيوتكنولوجيا وكذلك قدرتها على خداع الأنظمة أو التحايل على القيود المفروضة. اقترح هاسابيس أنه إذا ثبتت فعالية هذه الآلية، فيمكن أن يصبح إجراء مثل هذه التقييمات أحد الشروط المسبقة لطرح النماذج المتقدمة في السوق الأمريكية.
بموجب هذا المخطط، ستمول المؤسسة في الغالب من صناعة التكنولوجيا، وسيشارك خبراء مستقلون وممثلون حكوميون وأعضاء من مجتمع المصادر المفتوحة في أنشطتها.
تعاون منافسي الذكاء الاصطناعي لاختبار الأمان
التعاون بين الشركات المتنافسة في مجال أمان النماذج ليس أمرًا جديدًا. أجرت OpenAI وAnthropic في عام 2025 اختبارًا مشتركًا حيث استخدمت كل شركة أساليب تقييم الأمان الخاصة بها لفحص نماذج الشركة المنافسة. كان هدف هذا التعاون اكتشاف نقاط ضعف قد لا تظهر في اختبارات كل شركة الداخلية ودراسة إمكانية تعاون المختبرات المتنافسة لتقييم أمان ومحاذاة النماذج.
مع تزايد قدرة نماذج الذكاء الاصطناعي على أداء مهام معقدة بشكل مستقل، لا سيما في مجالات مثل الأمن السيبراني، ازدادت الحاجة إلى طرق تقييم معيارية كذلك. كلما حصلت هذه النماذج على وصول أكبر إلى الأدوات والإنترنت والبيئات الرقمية، أصبح تحديد معايير مشتركة لقياس سلوكها أكثر أهمية.
أعلنت Anthropic مؤخرًا أيضًا نيتها السماح للمقَيِّمين المستقلين بالوصول إلى جزء من العمليات والأنظمة والبيانات الداخلية للشركة لفحص كيفية تنفيذ إجراءات الأمان وإدارة الحوادث. وأشارت OpenAI، بالإشارة إلى حوادث وقعت خلال اختبارات أمان خارجية، إلى ضرورة صياغة معايير جديدة لتصميم وتأمين بيئات اختبار النماذج المتقدمة.
وفقًا لتقارير TechCrunch، لا تزال المفاوضات بين الشركات الثلاث في مرحلة الدراسة ولا يتضح ما إذا كانت ستنتهي بتشكيل مؤسسة مشتركة رسمية أم لا. ومع ذلك، يتزامن إجراء هذه المحادثات مع مقترحات منفصلة من الشركات مما يدل على أن النقاش حول توحيد طرق تقييم أمان النماذج المتقدمة تجاوز مستوى التعاون العرضي وأصبح واحدًا من القضايا المهمة في صناعة الذكاء الاصطناعي.