نجح فريق من باحثي الأمن في التسلل إلى حسابات عدة موظفين في OpenAI على ChatGPT باستخدام نماذج الذكاء الاصطناعي كلود (منتج شركة Anthropic)؛ وهو ما يبرز بسخرية كيف يمكن لتقنية منافس أن تُستخدم لتجاوز دفاعات أمنية لمنافس آخر.
وذكر موقع ايتنا أن ثلاثة باحثين أمنيين من فريق Hacktron، الذين كانوا يبحثون عن ضعف أمني في مختبرات الذكاء الاصطناعي الرائدة، تمكنوا بدمج ثغرتين منفصلتين من السيطرة على عدة حسابات لموظفين في OpenAI على ChatGPT.
ثم أظهروا باستخدام هذا الوصول أنهم قادرون ببساطة على الوصول أيضاً إلى مستودع الشيفرة الداخلي في OpenAI.
استغرق كامل هذه العملية، من اكتشاف الثغرة الأولى إلى الوصول إلى المستودع الداخلي في OpenAI، أقل من 72 ساعة، ونال الفريق مكافأة قدرها 6500 دولار من برنامج مكافآت الأخطاء لدى OpenAI على منصة Bugcrowd.
نقطة الدخول: منتدى دعم OpenAI
كتب أعضاء الفريق في تقرير نشره أنه حتى شهرين مضيا، كان كل مستخدم أو موظف في OpenAI يدخل منتدى الدعم التابع للشركة عرضة لخطر اختطاف حسابات ChatGPT وCodex الخاصة به. وبحسبهم، بما أن المستخدمين يربطون خدمات متعددة مثل GitHub وSlack والبريد الإلكتروني بـ Codex وChatGPT، كان نطاق الوصول المحتمل لهذه الثغرة واسعاً للغاية.
نفذ هؤلاء الباحثون الاختراق الأولي عبر منتدى OpenAI المبني على منصة Discourse في 25 يوليو.
وبحسب الفريق، مع تقدم العمل والوصول إلى نتيجة، أبلغوا OpenAI فوراً بعد اكتشاف الثغرة. وذكروا فيما بعد: «ثم استولينا على حساب أحد موظفي OpenAI الذي كان حساب Codex الخاص به مرتبطاً بمنظمة OpenAI على GitHub. ولإثبات مدى تأثير هذه الثغرة، أرسلنا أمراً من حساب Codex لذلك الموظف لفتح طلب سحب في المستودع الداخلي والرئيسي لـ OpenAI دون الوصول فعلياً إلى أي شيفرة داخلية. بعد ذلك، أوقفنا أي اختبارات إضافية.»
لم ترد OpenAI ولا Anthropic على طلب موقع The Register للتعليق.
رد OpenAI والإجراءات التصحيحية
أصلحت OpenAI هذه الثغرة ووصفت حالتها بأنها «محلولة» في أقل من 14 ساعة بعد استلام التقرير، ودفعَت 6500 دولار لفريق Hacktron.
وأوضحت الشركة، بحسب ما نشره Hacktron، أن الاختبار على خدمة منتدى الدعم المعنية المبنية على Discourse كان مستثنياً صراحةً من نطاق برنامج مكافآت الأخطاء لدى الشركة، وأن المكافأة دُفعت حصراً نظير العثور المتعلق بجانب OpenAI، وليس لأفعال استُهدفت منصة Discourse.
وردت Discourse على الحادث بنشر تحديث لإصلاح وبناء نظامها من جديد.
ختم الباحثون تقريرهم بالقول إن كامل عملية الاختراق استغرقت بضعة أيام من عمل وكيل ذكاء اصطناعي وساعات قليلة من العمل البشري، مؤكدين: «ما كان يتطلب سابقاً فريقاً بإمكانات كبيرة وشهوراً من الجهد، يمكن إنجازه الآن في بضعة أيام. يجب أن تتوافق افتراضات الأمن مع قدرات المهاجمين.»