مجموعة مكوَّنة من ١٠٠ شركة، من بينها غوغل ومايكروسوفت وأنثروبيك وأوبن إيه آي، وقَّعت رسالة مفتوحة طالبت الدول والمنظمات حول العالم بتعزيز دفاعاتها السيبرانية قبل أن تكتسب تكنولوجيات الذكاء الاصطناعي قدرة كافية لاختراق أنظمة الدفاع.
من بين الموقعين على هذه الرسالة وُجِد اسم بنك كابيتال وان وشركات تعمل في معالجة المدفوعات مثل ماستركارد وفيزا وكذلك شركات تكنولوجية كبرى من بينها أدوبي وأوراكل وآي بي إم.
وذكرت بي بي سي أن الرسالة حذَّرت من أنه مع التطور السريع لتقنيات الذكاء الاصطناعي، قد تتوسع وتتعقد الهجمات السيبرانية المعتمدة على هذه التكنولوجيا خلال الأشهر القليلة المقبلة.
وطالبت الرسالة الحكومات والمنظمات ومتخصِّصي الأمن السيبراني وشركات أخرى عاملة في مجال الذكاء الاصطناعي بالتعاون معًا لوضع تعزيز الدفاع السيبراني واختبار الأنظمة ضد قدرات أقوى نماذج الذكاء الاصطناعي في المقام الأول.
شدد الموقعون على أن الإجراءات الأمنية الحالية «لن تكون كافية» وانتقدوا ما وصفوه «بنقص تاريخي في الموارد» لحماية البُنى التحتية الحيوية. وتبدأ الرسالة بهذه الجملة: «لدينا وقت محدود لتحسين الدفاع السيبراني.»
الطلب بتعزيز الدفاع السيبراني باستخدام الذكاء الاصطناعي
طالبت الرسالة الحكومات بتوفير «أنظمة دفاعية فعّالة مبنية على الذكاء الاصطناعي» وإجراء اختبارات في قطاعات مثل المستشفيات ومنشآت المياه. كما طُلب من شركات التكنولوجيا دعم هذه الجهود.
وبحسب هذه الرسالة، يجب أن يعمل قطاع التكنولوجيا والحكومات معًا مستخدمين «كل قدرات التكنولوجيا والموارد والخبرة» لتعزيز هذه الجهود.
تزايد المخاوف عقب هجمات وانتهاكات سيبرانية
نُشرت هذه الرسالة بعد الكشف عن سلسلة من الهجمات والانتهاكات السيبرانية الكبيرة.
أعلنت وزارة العدل الأمريكية هذا الأسبوع أن قراصنة صينيين تسللوا إلى أنظمة تكنولوجية في مجلس الشيوخ الأمريكي ووكالة ناسا والاحتياطي الفيدرالي ووزارة العدل نفسها.
في صيف هذا العام، أعلنت أوبن إيه آي وأنثروبيك وميتا أيضًا أن بعض أدوات الذكاء الاصطناعي لديها أظهرت سلوكيات غير مصرح بها. حاولت بعض عوامل الذكاء الاصطناعي حتى تنسيق جهودها لاختراق الحواجز الأمنية ومثلّت نفسها كأشخاص حقيقيين لدفع أهدافها.
في شهر يوليو، نجحت مجموعة مكوَّنة من مئات عوامل أوبن إيه آي التي كانت قيد الاختبار في إنشاء لوحات رسائل سرية للتواصل والتعاون. أدَّى هذا في النهاية إلى هجوم ناجح ضد Hugging Face، المنصة والمستودع المعروف لمطوري الذكاء الاصطناعي.
وُصِف هذا الحدث بأنه أول هجوم سيبراني في العالم تم تنفيذه باستخدام الذكاء الاصطناعي.
وانضمّت Hugging Face أيضًا إلى قائمة الموقعين على الرسالة التي نُشرت يوم الخميس. وخلال تحقيقاتها حول كيفية تسلل عوامل أوبن إيه آي إلى أنظمتها وعملياتها، استخدمت الشركة أداة ذكاء اصطناعي صينية تابعة لـ Z.AI.
من جهة أخرى، أبلغت ما لا يقل عن سبع شركات مياه وصرف صحي في الولايات المتحدة عن هجمات سيبرانية. دفعت هذه المسألة مكتب التحقيقات الفيدرالي إلى إصدار بيان عام يطلب من جميع الشركات العاملة في قطاعي الماء والكهرباء تعزيز أمان عملياتها.
القلق من القدرات المتزايدة للذكاء الاصطناعي
بينما تعرض الرسالة أدوات ذكاء اصطناعي متقدمة كجزء من الحل لمواجهة التهديدات المتصاعدة، فإن الوصول إلى مثل هذه الأدوات ليس دائمًا سهلاً.
تدّعي أنثروبيك أن نظام Mythos التابع لها يمكنه اكتشاف الثغرات في الأنظمة خلال ثوانٍ؛ ثغرات قد تظل مخفية عن مرمى نظر القراصنة البشر لفترات طويلة.
وبحسب ادعاء الشركة، نجح Mythos سابقًا في اكتشاف ثغرة في منصة تكنولوجية قديمة لم تُكتشَف لمدة ٢٧ عامًا.
ومع ذلك، فالوصول إلى هذا النظام محدود لأن قدراته قد تخلق مخاطر كبيرة إذا وُضِعت في أيدي أشخاص غير مناسبين.
وبالرغم من هذه القيود، طالبت الرسالة شركات رائدة في مجال الذكاء الاصطناعي، أي الشركات التي تطور نماذجها وأدواتها، بـ«توفير وصول مسؤول إلى النماذج، تمويل كبير، برامج تدريبية ودعم عملي مباشر».
يركز هذا الطلب بشكل خاص على المؤسسات المسؤولة عن حماية البُنى التحتية الحيوية لكنها تفتقر إلى الموارد الكافية.
مع ذلك، لم تقدم الرسالة تفاصيل حول توقيت أو كيفية تنفيذ هذا البرنامج لتوسيع الوصول إلى نماذج الذكاء الاصطناعي.
تحذير بشأن موجة جديدة من الهجمات المعتمدة على الذكاء الاصطناعي
حذر أندرو يون، رئيس أبحاث المنظمة غير الربحية Civic AI التي تركز على رفع الوعي العام بشأن تقنيات الذكاء الاصطناعي، من «موجة غير مسبوقة من أنشطة الاختراق المعتمدة على الذكاء الاصطناعي» قادمة.
واتهم عدة شركات موقعة على هذه الرسالة بأنها ساهمت في خلق هذه الظروف، وقال: «لقد فعلوا الصواب بالتزامهم في هذه الرسالة بتخصيص تمويل كبير للإجراءات الدفاعية، ويجب أن يلتزموا بهذا التعهد.»
وأضاف يون أن الرسالة، مع ذلك، لا تطلب أي إجراء لإبطاء وتيرة تطوير قدرات الاختراق المعتمدة على الذكاء الاصطناعي.