شارك كبار مديري شركات الذكاء الاصطناعي الرائدة يوم الأربعاء في جلسة مجلس الأمن للأمم المتحدة داعين إلى تعاون عالمي لاحتواء المخاطر الناجمة عن تزايد استقلالية أنظمة الذكاء الاصطناعي.
ووفقًا لتقرير إيتنا، تتقدم قدرات الذكاء الاصطناعي بسرعة تفوق قدرة الدول على وضع آليات رقابية، وهو أمر زاد المخاوف بشأن قدرة البشر على الحفاظ على السيطرة على أنظمة أكثر استقلالية.
حضر سام ألتمان، المدير التنفيذي لشركة OpenAI، هذه الجلسة حضوريًا، في حين انضم داريو أمودي، المدير التنفيذي لشركة Anthropic، وكليمان دولانغ، المدير التنفيذي لشركة Hugging Face، عبر المؤتمر المرئي.
تحذير ألتمان بشأن مستقبل الذكاء الاصطناعي
قال ألتمان في كلمته: "يمكن أن يكون الذكاء الاصطناعي عصر نهضة جديد في الإبداع والاكتشاف، أو ثورة صناعية جديدة في الفوضى والاضطراب." وأشار إلى مخاطر تزايد استقلالية أنظمة الذكاء الاصطناعي معربًا عن قلقه من احتمال تفوّق هذه الأنظمة على المؤسسات البشرية، وتركيز السلطة في أيدي قلة، واتخاذ قرارات لا يمكن للناس فهمها أو التحكم فيها؛ مخاوف أصبح، بحسب قوله، أكثر جدية مع اقتراب الذكاء الاصطناعي من مرحلة التحسين الذاتي.
وأضاف ألتمان أن النقاش حول ما إذا كانت احتمالية وقوع كارثة هي 10٪ أو 1٪ أو أقل لا يهم؛ فليس أي من مستويات المخاطر هذه مقبولًا ولا ينبغي تدريب نماذج لا يمكن ضمان حفظ السيطرة البشرية عليها بدرجة عالية من اليقين.
القلق من انهيار آليات الأمان
ويفيد التقرير بأن خرقًا أمنيًا حديثًا في Hugging Face إلى جانب عدة حوادث أمان مكشوفة حديثًا في مجال الذكاء الاصطناعي زادا المخاوف بشأن معايير الرقابة والأمن. كما حذرت الهيئة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي التابعة للأمم المتحدة من أن الأسوار الدفاعية الحالية للذكاء الاصطناعي في طريقها إلى الانهيار.
وفي الأسبوع الماضي أيضًا أعلنت OpenAI عن ست حوادث جديدة حيث أخفت نماذج الشركة أخطاءها أو سعَت إلى الوصول غير المصرح به أو أظهرت سلوكيات غير مناسبة أخرى؛ حوادث تُظهر أن خرق Hugging Face لم يكن حدثًا معزولًا بل كان ناقوس خطر جديًا.
وأشار دولانغ، المدير التنفيذي لشركة Hugging Face، إلى أن المجتمع الدولي بحاجة إلى معايير أقوى للرقابة والإفصاح عن الحوادث لفهم هذه المخاطر السيبرانية الناشئة والتخفيف منها، في إشارة إلى الخرق الأمني الصيف الماضي.
توقُّع أمودي لـ«دولة من العباقرة»
قال داريو أمودي، المدير التنفيذي لشركة Anthropic، في كلمته إن وتيرة تقدم الذكاء الاصطناعي الحالية تحتاج سنة أو اثنتين فقط لتبلغ ما وصفه بـ"دولة من العباقرة في مركز بيانات". وأكد على الفرص الضخمة لهذه التكنولوجيا مشيرًا إلى الاكتشاف المعلن في نفس اليوم - نظام أنزيمي مخفي داخل DNA حمض أمين لفاج بقيادة نموذج اللغة لدى شركته "كلود".
ومع ذلك تحدث أمودي أيضًا عن المخاطر الكبيرة لهذه التكنولوجيا؛ بما في ذلك إساءة استخدام الجهات الخبيثة لصنع أسلحة بيولوجية أو فقدان السيطرة على الأنظمة المتقدمة.
وربط إدارة هذه المخاطر بالتعاون العالمي ودعا إلى اتفاق لحظر استخدام الذكاء الاصطناعي في صنع الأسلحة البيولوجية، وإنشاء آليات جديدة للتقييم والتحقق، ومعايير مشتركة لاختبار مخاطر النماذج، ونظام للإبلاغ عن المخاوف الأمنية على مستوى العالم.
الخلفية السياسية
حذّر قادة صناعة الذكاء الاصطناعي مرارًا خلال الأسابيع الماضية من سرعة تقدم هذه التكنولوجيا ودعوا إلى إبطاء وتيرة تطويرها. ويأتي ذلك بينما قال دونالد ترامب، رئيس الولايات المتحدة، الذي ألقى كلمة يوم الثلاثاء في الجمعية العامة للأمم المتحدة، إنه لن يعيق تطوير الذكاء الاصطناعي.
وبحسب ما كتبت أكسيوس، حذر ألتمان في خلاصة كلمته من أنه إذا كان من المقرر أن يسلك الذكاء الاصطناعي مسارًا ديمقراطيًا، فلا ينبغي أن تُتخذ أهم القرارات فقط من قبل مختبرات تقع في سان فرانسيسكو، بل يجب أن تُنشأ عبر عمليات ديمقراطية ومن قبل حكومات مسؤولة أمام شعوبها.