أندرو بيلي، محافظ بنك إنجلترا ورئيس هيئة استقرار النظام المالي العالمي (FSB)، حذر مؤخراً من أن الذكاء الاصطناعي المتقدم قد يزيد مخاطر حدوث اضطرابات واسعة النطاق في النظام المالي العالمي من خلال تعزيز قدرات الهجمات السيبرانية بشكل كبير.
بحسب تقرير ايتنا، بيلي في رسالة موجهة إلى وزراء المالية ومحافظي البنوك المركزية في دول مجموعة العشرين، أكد أن أهم مصدر قلق فوري للنظام المالي العالمي هو تأثير نماذج الذكاء الاصطناعي المتقدمة على مخاطر الأمن السيبراني.
لماذا أصبح AI أخطر على النظام المالي؟
يُطلق على نماذج Frontier AI اسم الجيل الأكثر تطوراً من نماذج الذكاء الاصطناعي التي تتمتع بقدرات متزايدة في التفكير المنطقي، حل المشكلات، استخدام الأدوات وتنفيذ المهام بشكل مستقل.
مخاوف بيلي أن هذه القدرات إذا ما وقعت أيضاً في أيدي المهاجمين السيبرانيين، قد تجعل الذكاء الاصطناعي يُسرّع ويؤتمت العديد من مراحل الهجوم؛ من تحديد نقاط الضعف وتحليل الأنظمة إلى تكييف أسلوب الهجوم مع رد فعل الضحية.
في مثل هذه الظروف، هجوم سيبراني كان يتطلب سابقاً موارد بشرية ووقت وخبرة كبيرة، قد يُنفَّذ بمساعدة عوامل الذكاء الاصطناعي على نطاق أكبر بكثير.
الخطر الرئيسي؛ انتشار اضطراب من شركة واحدة إلى السوق بأكمله
أحد السيناريوهات المقلقة للجهات المالية هو حدوث اضطراب متزامن في عدة مؤسسات.
طلب بيلي من البنوك وشركات التكنولوجيا أن تستعد لسيناريوهات يصبح فيها عدد من الشركات متعرضاً للاضطراب في الوقت نفسه أو تتعطل البنى التحتية المشتركة التي يعتمدون عليها.
هذه المسألة تختلف اختلافاً جوهرياً عن هجوم سيبراني عادي. إذا تعرّض بنك لهجوم، قد يتمكن من الاستمرار باستخدام أنظمة احتياطية. لكن إذا تعطلت نفس البنية السحابية أو البرنامج أو مزوِّد الخدمات التكنولوجية المستخدم من قبل عدة بنوك في الوقت نفسه، قد تكون آثار الحادث أوسع بكثير.
في سوق مالي مترابط بشدة، مثل هذا الاضطراب قد يتحول من مشكلة تقنية إلى أزمة تتعلق بالسيولة، ثقة المستثمرين وفي النهاية استقرار السوق.
الحوادث الأخيرة أطلقت صافرة الإنذار
يأتي هذا التحذير في وقت أظهرت فيه اختبارات أمنية على نماذج الذكاء الاصطناعي المتقدمة خلال الأشهر الماضية أمثلة على سلوك غير متوقع لهذه النماذج.
في إحدى الحالات الأخيرة، تمكنت عوامل الذكاء الاصطناعي خلال اختبار أمني من تجاوز القيود المفروضة والوصول إلى بنى تحتية لمنظمة خارجية. كما أظهرت تقارير متعلقة بنماذج شركات مختلفة أن العوامل المتقدمة قد تستخدم في بعض الحالات أساليب لا توقعها المطورون للبحث عن ثغرات، تنفيذ شيفرات والوصول إلى أهدافها.
تبيّن هذه الحوادث أن تهديد الذكاء الاصطناعي لم يعد مقتصراً على إنتاج نصوص مزيفة، تزوير الأصوات أو تحسين جودة التصيد الاحتيالي. نماذج العامل يمكن أن تؤتمت جزءاً من عملية الهجوم وتغير أسلوبها استجابة للعقبات.
على البنوك أن تستعد لأسوأ السيناريوهات
طالَب بيلي المؤسسات المالية بتعزيز دفاعاتها السيبرانية وبالإضافة إلى منع الهجمات، زيادة قدرتها على الاسترداد السريع بعد وقوع حادث.
واحدة من التوصيات المهمة هي أن تختبر البنوك وشركات التكنولوجيا جاهزيتها ضد اضطرابات متزامنة ومتسلسلة؛ أي لا يقتصر الأمر على فحص ما سيحدث إذا تعطلت منظومة واحدة، بل وضع سيناريو تتعرض فيه عدة مؤسسات وبنى تحتية مشتركة لمشكلات في الوقت نفسه.
تكتسب هذه المقاربة أهمية كبيرة، لأن في الأزمات السيبرانية الكبيرة قد تكون سرعة الاسترداد بنفس أهمية منع الاختراق.
تحذير جاد لعصر عوامل الذكاء الاصطناعي
وفقاً لما كتبت CNBC، يمكن أن يُعتبر تحذير أندرو بيلي علامة على تحول نظرة المؤسسات الاقتصادية العالمية إلى الذكاء الاصطناعي. في السنوات الأولى، كان التركيز الرئيسي على تأثير AI على العمالة والإنتاجية والنمو الاقتصادي؛ لكن الآن أصبحت مسألة الخطر النظامي بنفس القدر من الأهمية.
إذا استطاعت عوامل الذكاء الاصطناعي اكتشاف الثغرات الجديدة بسرعة عالية والعمل في عدة أنظمة في آن واحد، فسيواجه نموذج الدفاع السيبراني التقليدي تحدياً جديداً.
من هذه الزاوية، الرسالة الرئيسية لتحذير الخبراء ليست أن على الذكاء الاصطناعي أن يتوقف؛ بل أن البنى التحتية المالية العالمية يجب ألا تدخل عصر الذكاء الاصطناعي المستقل دون استعداد كافٍ.
مع تزايد قدرات نماذج Frontier AI، يضيق الفاصل بين أداة برمجية ووكيل مستقل. وقد جعل هذا التطور الجهات المالية والحكومات الآن مضطرة إلى وضع سيناريوهات كانت قبل سنوات قليلة تبدو أقرب إلى قصص الخيال العلمي.