يعتقد كبار مديري صناعة التكنولوجيا وباحثو الذكاء الاصطناعي أن أكثر الطرق أمناً لمواجهة أزمة الأمن المتصاعدة للذكاء الاصطناعي هي استخدام هذه التكنولوجيا نفسها للسيطرة والإشراف على العوامل (العملاء) الذكائية الاصطناعية.
وبحسب إيتنا، طُرحت هذه التصريحات بعد الكشف عن تقرير بحثي لأكسيوس أظهر أن الباحثين يفحصون عشرات الآلاف من المشكلات الأمنية المتعلقة بالذكاء الاصطناعي؛ رقماً أكبر بكثير من عدة عشرات من الحالات المحدودة التي أُعلِنَت سابقاً علناً. وقد أثار هذا الإحصاء تساؤلات خطيرة حول مدى سيطرة الشركات الرائدة على تقنياتها.
كشف جنسن هوانغ، المدير التنفيذي لشركة نفيديا، عن منصة مفتوحة المصدر جديدة لمراقبة وعزل عملاء الذكاء الاصطناعي عند الحاجة، للحد من المخاوف المتنامية لدى الحكومات والأسواق والقطاعات الصناعية.
قال يوم الاثنين في مقابلة مع شبكة سي إن بي سي إنه يجب أن يأمل الجميع أن يكون هذا موضوعاً هندسياً، لأن خلاف ذلك لن يكون قابلاً للحل. وبحسبه، فإن استمرار الشركات في تطوير التقنيات المتقدمة يظهر أنها لا تزال تعتقد أن هذا التحدي قابل للحل.
التحدي الرئيسي
أصعب مسألة في التحكم بالنماذج القوية للذكاء الاصطناعي هي أن البشر يجب أن يتنبؤوا مسبقاً بكل التصرفات غير المتوقعة التي قد يقوم بها نموذج لتحقيق هدف محدد.
شبَّه أحد كبار المديرين في صناعة الذكاء الاصطناعي هذا الوضع بمحاولة الآباء منع مراهق من الهروب ليلاً: «يمكن وضع قواعد مثل حظر الخروج من الأبواب الأمامية والخلفية أو النوافذ، لكن إذا تمكن المراهق من هدم جدار البيت بجرافة، فلن يكون أحد قد توقع مثل هذا السيناريو.»
الحل المقترح
بحسب المديرين التنفيذيين والباحثين وخبراء الأمن السيبراني، فإن الحل الرئيسي هو استخدام الذكاء الاصطناعي لتصميم حواجز أمان، وفحص وإيقاف العملاء المتمردين، وتأمين الأنظمة وبناء بيئات تدريب أكثر أماناً.
يتشكل نهج «الذكاء الاصطناعي مقابل الذكاء الاصطناعي» في مجال الأمن السيبراني، لأن القراصنة والعوامل المتمردة تجاوزت قدرات الاستجابة البشرية وحدها. وتستخدم الشركات بشكل متزايد الذكاء الاصطناعي لأتمتة اكتشاف التهديدات، والاختبار الأحمر وإصلاح الثغرات.
المنصة الجديدة لنفيديا تجلب نفس النهج إلى أنظمة تشغيل عملاء الذكاء الاصطناعي.
أطلقت كل من مايكروسوفت وسيسكو وجوجل وكراودسترايك نماذج ذكاء اصطناعي متخصصة للأمن السيبراني.
كما أطلقت بالو ألتو نتوركس مؤخراً خدمة تستخدم نماذج متقدمة ومفتوحة المصدر لاكتشاف الثغرات الأمنية واقتراح الحلول.
ظهر أحد نماذج هذا الصراع عندما خرجت عملاء الذكاء الاصطناعي التابعة لأوبن إيه آي من بيئتها التجريبية واقتحمت هاجينغ فيس (Hugging Face). استخدمت هذه المنصة المفتوحة للذكاء الاصطناعي نموذجاً صينياً لتفحص وتقيم هذا الهجوم؛ لأنها واجهت قيود أمان عند محاولة استخدام نماذج أمريكية.
كما لم تتمكن هاجينغ فيس من استخدام نموذج ميثوس (Mythos) لشركة أنتروبيك، لأن هذا النموذج صُمم ليقيد الإجابة على بعض الطلبات الحساسة المتعلقة بالأمن السيبراني منعاً لسوء الاستخدام المحتمل. بعبارة أخرى، في هذه الحادثة فحص ذكاء اصطناعي ذكاء اصطناعي آخر.
مستوى التهديد
خلقت الحوادث الأمنية الأخيرة أزمة ثقة جدية بشأن سلامة الذكاء الاصطناعي. حاولت بعض النماذج التحايل على حواجز الأمان، والهروب من البيئات التجريبية، واستيلاء على مواقع الويب، وإعادة توجيه نفسها بأوامر جديدة أو الهروب من المراقبة.
كتب أكسيوس أنه ردّاً على هذا الوضع، اقترح نشطاء الصناعة إلى جانب أكثر من ١٠٠ شركة بالمشاركة مع نفيديا، بالإضافة إلى إطلاق منصة أمانية جديدة للعوامل، إطاراً للإبلاغ عن الحوادث وتسجيل السجلات؛ فكرة شبيهة بـ«الصندوق الأسود» للعوامل الذكائية الاصطناعية يساعد في التحقيق في الحوادث.
مع ذلك، فإن زيادة أدوات الدفاع المعتمدة على الذكاء الاصطناعي لا تعني أن كل الشركات يمكنها الاستفادة منها بسرعة. العديد من فرق الأمن تواجه حالياً ضغطاً بسبب حجم التغيرات في مشهد التهديدات واتخاذ القرار بشأن الأدوات المناسبة للشراء.
الواقع الميداني
استخدام الذكاء الاصطناعي للسيطرة على الذكاء الاصطناعي ضرورة حتمية، لكن هذا الاتجاه لن يحدث من تلقاء نفسه. لا يزال البشر بحاجة إلى تحديد الأولويات والأهداف بشكل صحيح للحفاظ على سلامة النماذج القوية.