نموذج الذكاء الاصطناعي جميناي التابع لشركة غوغل، في سياق اختبار أمني أُجري في أوائل هذا العام، باستخدام تقنيات اختراق بسيطة، تسلل إلى أنظمة ثلاث شركات حقيقية.
هذا الحدث جعل غوغل آخر شركة من بين مختبرات الذكاء الاصطناعي الكبيرة التي تكشف عن مثل هذا الحادث.
وبحسب تقرير إيتنا نقلاً عن أكسيوس، أكدت غوغل يوم الجمعة وقوع هذه الحوادث الثلاثة التي حدثت في شهر مايو.
وقعت هذه الحوادث خلال فترة اختبار نفذتها شركة التقييم المستقلة «إيرگيولار» (Irregular)؛ اختبار مشابه للحوادث الأمنية السابقة التي واجهت نماذج الذكاء الاصطناعي لدى أوبن إيه آي، أنتروبيك وميتَا. نشرت صحيفة وول ستريت جورنال هذا الخبر أولاً.
قبل ذلك، كانت غوغل من بين المختبرات القليلة للذكاء الاصطناعي التي لم تعلن علناً بعد عن وقوع اختراق أمني مرتبط بوكلائها الأذكياء خلال اختبارات ما قبل نشر المنتج.
تفاصيل الحادث
وفقاً لتقرير وول ستريت جورنال، وقعت هذه التسللات عندما كان جميناي يجرّب تمرين اختراق؛ تمرين يُطلب فيه من النموذج استرجاع معلومات من برنامج يزعم أنه تابع لشركة خيالية في بيئة اختبارية. لكن المشكلة كانت أن اسم هذه الشركة الخيالية كان مشابهاً لاسم شركة حقيقية.
في إحدى هذه الحالات الثلاث، نجح النموذج عن طريق تخمين كلمات المرور في الوصول إلى نظام محمي.
في الحالتين الأخريين، وجد النموذج بيانات دخول في مستودع عام (public repository)، مما سمح له بالوصول إلى أنظمة محمية أخرى.
الجدير بالذكر أنه بمجرد أن أدرك النموذج أنه وصل إلى شركات حقيقية، أوقف نشاطه.
رد غوغل
أعلنت هيدر إدكينز، نائبة هندسة الأمن في غوغل، في بيان أن تطوير نماذج ذكاء اصطناعي قوية وآمنة أمر محل اهتمام كبير للشركة وأن غوغل تستثمر كثيراً في هذا المجال.
وقالت إن فريق الأمن في غوغل تواصل مع الشركات المتضررة وتعاون مع شريك الاختبار لتطبيق التغييرات التي أُدخلت الآن على عمليات الاختبار.
وقال متحدث باسم شركة إيرگيولار لأكسيوس إن حادثة جميناي كانت ناجمة عن نفس مشكلات الأمان التي لوحظت سابقاً في حوادث مماثلة متعلقة بمختبرات ذكاء اصطناعي أخرى.
وأضاف هذا المتحدث أن جميع المختبرات المعنية أُعلمت في أواخر شهر يوليو وأن جميع المشكلات المحددة قد أُصلحت منذ أسابيع مضت.
وبحسب تقرير إيرگيولار لوول ستريت جورنال، لم يكن من المفترض أن يكون للنموذج وصول إلى الإنترنت، لكنه نال هذا الوصول عن غير قصد.
بعد أن كشفت أوبن إيه آي وأنتروبيك أيضاً عن حوادث مماثلة خلال هذا الصيف، قال مصدر مطلع لأكسيوس إن التنسيق الكامل بين مختبرات الذكاء الاصطناعي وإيرگيولار بشأن التفاصيل الدقيقة لإجراءات الاختبار وتدابير الأمان لم يكن قائماً، مما أوجد غموضاً في كيفية إجراء اختبارات تُجرى عادةً مع وجود وصول إلى الإنترنت.