شخصيات بارزة في صناعة الذكاء الاصطناعي، بمن فيهم مديرو OpenAI وAnthropic، تستعرض سيناريوهات محتملة لوقوع حادث كبير مرتبط بهذه التكنولوجيا وتبعاته العامة والسياسية. إحدى المخاوف الأساسية هي احتمال وقوع هجمات سيبرانية واسعة النطاق قد تعطل الخدمات المالية والاتصال بالإنترنت وحتى البنى التحتية الحيوية مثل شبكة الكهرباء وتوفير المياه.
أهمية هذه السيناريوهات لا تقتصر على الأضرار التقنية فحسب. وقوع حادث خطير قد يقلل الثقة العامة في الذكاء الاصطناعي، ويزيد الانتقادات الموجهة إلى الشركات العاملة في هذا المجال، ويضغط من أجل سنّ تشريعات أكثر تشدداً.
في مثل هذه الظروف، قد يواجه مديرو شركات مثل OpenAI وAnthropic أسئلة صعبة حول مسؤوليتهم عن تطوير وإصدار هذه التكنولوجيا. دونالد ترامب، رئيس الولايات المتحدة، حاضر أيضاً في النقاشات المتعلقة بسياسات الذكاء الاصطناعي؛ وخاصة من قبل المنتقدين الذين يرون أن نهج حكومته فيما يتعلق بالقيود التنظيمية على هذه الصناعة غير كافٍ.
لماذا أصبحت سيناريوهات الكوارث المتعلقة بالذكاء الاصطناعي أكثر جدية؟
الاستعداد للأزمات المحتملة ليس موضوعاً جديداً للشركات والجهات الأمنية. المؤسسات العسكرية والأمن القومي تحاكي منذ سنوات سيناريوهات حروب وهجمات سيبرانية واضطراب في البنى التحتية لتقييم قدرتها على التعامل مع حالات الطوارئ.
مع ذلك، أدى التطور السريع للذكاء الاصطناعي واتساع تطبيقاته إلى إضافة أبعاد جديدة لهذه التخطيطات. لم يعد القلق محصوراً في استخدام الأدوات الذكية للقيام بالمهام اليومية؛ فقد تلعب هذه التكنولوجيا دوراً أيضاً في هجمات سيبرانية أعقد، وفي اكتشاف الثغرات أو تنفيذ مراحل من العمليات الخبيثة.
وفقاً لتقرير نشرته Axios، يعتبر بعض الباحثين وكبار مديري صناعة الذكاء الاصطناعي احتمال وقوع حادث خطير أمراً يجب الاستعداد له. هذا الاستعداد لا يعني بالضرورة التأكد من وقوع مثل هذا الحادث، بل هو جزء من التخطيط لإدارة المخاطر المحتملة.
OpenAI تقول إنها تجري تدريبات للاستعداد للأزمات
أفاد متحدث باسم OpenAI أن الشركة تجري مناورات لتقييم وإدارة المخاطر. تشمل هذه التدريبات مراجعة عملية لسيناريوهات متنوعة والنقاش حول كيفية التعامل مع ظروف محتملة.
بحسب الشركة، الهدف من هذه المناورات ليس التنبؤ الحتمي بوقوع حادث معين، بل رفع مستوى الاستعداد للتعامل مع طيف واسع من الظروف والتبعات المحتملة. وبحسب تقرير Axios، امتنع Anthropic عن التعليق في هذا الموضوع.
إحدى القضايا المهمة في مثل هذه البرامج هي كيفية استجابة الشركات والحكومات بعد وقوع الأزمة. في حال حدوث حادث واسع، قد تُطرح أسئلة عن مسؤولية شركات التطوير، وكفاية تدابير الأمان، وضرورة تقييد بعض قدرات الذكاء الاصطناعي.
الهجمات السيبرانية المعتمدة على الذكاء الاصطناعي زادت المخاوف
أحد السيناريوهات المقلقة هو هجوم يستخدم فيه فاعل خبيث أدوات الذكاء الاصطناعي لاكتشاف الثغرات، وتسهيل الاختراق إلى الأنظمة أو إدارة مراحل مختلفة من عملية سيبرانية.
قد يحدث مثل هذا الهجوم بطريقتين عامتين: في حالة، يتجاوز نظام ذكاء اصطناعي أثناء الاختبار أو تنفيذ المهام القيود المتوقعة؛ وفي الحالة الأخرى، يستغل مهاجم بشري النماذج والأدوات المتاحة للقيام بأنشطة خبيثة. هذان السيناريوهان يختلفان من حيث المصدر وكيفية المواجهة.
تقرير حديث لشركة الأمن السيبراني CrowdStrike عن هجمات على مؤسسات مالية في كوريا الجنوبية يمثل مثالاً واقعياً للمخاوف المتعلقة باستخدام الأدوات خبيثة للذكاء الاصطناعي.
وفقاً للتقرير، استخدم مهاجم مجهول يعتقد أنه متحدث بالصينية ودوافعه مالية، أداة مفتوحة المصدر اسمها ARTEX إلى جانب نماذج ذكاء اصطناعي لاستهداف مؤسسات مالية كورية جنوبية. تُظهر المراجعات أن هذه الأنشطة استمرت من أواخر سبتمبر إلى أوائل أكتوبر 2026 (أواخر شهر شِهريور إلى أوائل شهر مِهْر 1405) وأسفرت عن سرقة بيانات.
تذكر نتائج CrowdStrike أن المهاجم استخدم أدوات مثل DeepSeek ونماذج أخرى إلى جانب Claude Code. كما تظهر سجلات جلسات هذه الأدوات أن المهاجم بحث عن أسواق ومجموعات لبيع البيانات المسروقة. مع ذلك، لم تُحدد هوية المهاجم وكل تفاصيل هذه الهجمات بشكل قاطع بعد.
تُظهر هذه القضية أن الذكاء الاصطناعي قد يعزز قدرة المهاجمين على تنفيذ بعض مراحل العمليات السيبرانية؛ حتى لو لم يكن نموذج الذكاء الاصطناعي نفسه هو العامل المباشر للاختراق. في هذه الحالة، قد تتولى الأدوات الذكية جزءاً من عملية تحديد الأهداف، وتحليل المعلومات، وتسهيل الأنشطة الخبيثة.
هل يمكن لحادث كبير أن يغيّر مستقبل صناعة الذكاء الاصطناعي؟
إحدى المخاوف الرئيسية لدى مديري هذه الصناعة هي رد الفعل العام والسياسي إزاء حادث واسع. إذا تسببت هجمة بمساعدة أدوات الذكاء الاصطناعي في تعطيل خدمات أساسية أو في تسريب واسع للمعلومات، فهناك احتمال لزيادة الضغوط لتقييد قدرات هذه التكنولوجيا وتشديد الرقابة على شركات التطوير.
في مثل هذه الظروف، قد تضطر الشركات إلى شرح، إلى جانب الرد على نقاط الضعف التقنية، ما الإجراءات التي اتخذتها لمنع الحادث وما إذا كانت آليات إدارة المخاطر لديها كافية أم لا.
مع ذلك، فإن الاستعداد لسيناريو كارثي لا يعني حتمية وقوعه. الغرض من محاكاة الأزمات هو كشف نقاط الضعف وتوفير إمكانية استجابة أسرع في حال حدوث حالة طوارئ.
في النهاية، التحدي الرئيسي لصناعة الذكاء الاصطناعي هو أنه مع تطوير قدرات جديدة، يجب أن تُعزَّز آليات الدفاع السيبراني والرقابة والمساءلة بما يتناسب مع المخاطر المحتملة. كلما لعبت الأدوات الذكية دوراً أكبر في البنى التحتية الحيوية والخدمات العامة، تزداد أهمية استعداد الشركات والحكومات لمواجهة سوء استخدامها.