شركة OpenAI في الولايات المتحدة طالبت بسن قوانين إلزامية لأمن أقوى لأنظمة الذكاء الاصطناعي؛ تغيير مهم في نهج شركة كانت سابقاً تعارض تشديد قواعد التنظيم.
كريس لهن، المدير العالمي لشؤون OpenAI، كتب في بيان يوم الأربعاء أن القواعد الإلزامية على المستوى الوطني يجب أن تُصاغ بناءً على قدرات النماذج المتقدمة للذكاء الاصطناعي.
لهن في البيان الذي نُشر يوم الأربعاء على موقع OpenAI قال: «لقد دخلنا فصلاً جديداً في قدرات الذكاء الاصطناعي وهذا يستلزم فصلاً جديداً في سياسات هذا المجال. لا شركة، ولا صناعة، ولا دولة بمفردها قادرة على مواجهة هذا التحدي. يجب في هذه المرحلة تفضيل الإجراء ذي المعنى على البحث عن سياسة كاملة.»
أعلنت الشركة أنها تطالب بإنشاء إطار فيدرالي يقوم على معايير مشتركة للاختبار، وتقييمات مستقلة للنماذج الأكثر تقدماً في الذكاء الاصطناعي، ومتطلبات أكثر صرامة في مجال الأمن السيبراني، والإبلاغ الإلزامي عن الحوادث الخطيرة المتعلقة بالأمن.
هذا التدخل جاء بعد أسبوع فقط من طرح OpenAI نموذج GPT-6 Astra؛ وهو نموذج وصفته بأنه أقوى منتج لها حتى اليوم.
قال غريغ براكمان، رئيس OpenAI، إن هذا الإطلاق يمثل بداية عصر الذكاء الاصطناعي العام أو AGI؛ وهو مفهوم يشير إلى الهدف القديم لبناء ذكاء اصطناعي قادر على المساواة في مجموعة واسعة من المهام مع القدرات البشرية.
تزايد المخاوف بشأن الذكاء الاصطناعي القوي
الشركات الكبرى العاملة في مجال الذكاء الاصطناعي بما في ذلك OpenAI وAnthropic تواجه منذ الآن مخاوف أمنية حول نماذجها التي تتقوى يوماً بعد يوم.
أخرت OpenAI جزءاً من عملية طرح Astra وفي الوقت نفسه أضافت تدابير حماية جديدة بعدما أظهرت الاختبارات أن هذا النموذج يمتلك قدرات متقدمة في مجال الأمن السيبراني؛ وذلك بعد أسابيع من حادثة خرج فيها نظام مبني على نماذج هذه الشركة عن السيطرة خلال اختبار أمني داخلي واخترق منصة الذكاء الاصطناعي Hugging Face.
كما أفادت Anthropic عن حالات مماثلة خلال اختبارات الأمان المتعلقة بنماذج Claude الخاصة بها.
بعد أن أعلن جيكوب كوكسون، باحث في Anthropic، هذا الأسبوع أنه يغادر هذه الصناعة واتهم OpenAI وAnthropic بأنهما «يقامرون بحياتنا» في سباق تطوير ذكاءات اصطناعية أقوى، تصاعدت المخاوف أكثر.
كتب لهن أن منظور تطوير الذكاء الاصطناعي باستخدام الذكاء الاصطناعي نفسه يتطلب أشياء تتجاوز الالتزامات الطوعية.
تغيير في نهج OpenAI
صانع ChatGPT طلب من المشرعين الأميركيين أن يتحركوا قبل أن يغلق الكونغرس أبوابه في شهر ديسمبر.
يأتي هذا الضغط بينما ينظر المشرعون في قواعد جديدة للذكاء الاصطناعي، رغم أن إقرار تشريعات واسعة في مجال التكنولوجيا في كونغرس منقسم وتحت ضغط لوبي صناعي قوي لا يزال أمراً صعباً.
اعترفت OpenAI أن بعض التدابير التي تدعمها الآن هي ذاتها التي كانت في السابق غير مستعدة لدعمها.
كما عارضت الشركة سابقاً سن تشريعات منفصلة على مستوى ولايات الولايات المتحدة وبدلاً من ذلك طالبت بتشريع على المستوى الفيدرالي. ومع ذلك فهي الآن تدعم أربعة مشاريع قوانين متعلقة بالذكاء الاصطناعي في كاليفورنيا وفي الوقت نفسه لا تزال تؤكد على ضرورة إنشاء إطار وطني.
تقول OpenAI إن أي متطلبات أمان على المستوى الفيدرالي يجب أن تشمل فقط عدداً قليلاً من الشركات التي تطور أقوى النماذج، لا «الشركات الناشئة أو المطورين الصغار أو الباحثين الذين يبعدون كثيراً عن حدود تقدم هذه التكنولوجيا».