حذرت شركة أنثروبيك من أن النماذج الصغيرة للذكاء الاصطناعي قد تكتسب في المستقبل القريب القدرة على التكاثر الذاتي والانتشار في الأجهزة المتصلة بالإنترنت؛ قدرة قد تعرض التلفزيونات وكاميرات المراقبة وغيرها من معدات المنزل الذكي لتهديدات سيبرانية جديدة.
وبحسب إيتنا، فقد حذرت شركة أنثروبيك (Anthropic)، مطورة الشات بوت كلود (Claude)، من بروز جيل جديد من التهديدات السيبرانية المعروفة باسم «ديدان الذكاء الاصطناعي»؛ برامج يمكنها التكاثر والانتشار بين الأجهزة المتصلة بالإنترنت دون الحاجة إلى تدخل بشري مباشر.
واستناداً إلى تقرير نشره باحثو السلامة في الشركة يوم الاثنين 12 أكتوبر (20 مهر)، قد تبعد النماذج الصغيرة للذكاء الاصطناعي بضعة أشهر فقط عن اكتساب القدرة على التكاثر المستقل والانتشار عبر أجهزة مختلفة.
وجاء هذا التحذير بالخصوص بشأن معدات المنزل الذكي؛ أجهزة مثل التلفزيونات الذكية والأفران المتصلة بالإنترنت والمكانس الروبوتية التي قد تتحول، بسبب اتصالها الدائم بالشبكة، إلى أهداف لمثل هذه التهديدات.
التكاثر من دون تدخل بشري؛ تحدٍ جديد للأمن السيبراني
إحدى أهم مخاوف أنثروبيك هي صعوبة احتواء برامج الذكاء الاصطناعي التي يمكن أن تتكاثر دون إشراف بشري.
ووفقاً لباحثي الشركة، عندما تنتشر مثل هذه البرامج عبر أجهزة وشبكات متعددة، لن يكون هناك بالضرورة نقطة مركزية لإيقافها. هذه الخاصية قد تجعل من الكشف عنها والتحكم بها وإزالتها أصعب بكثير.
وأعلنت أنثروبيك أن أقوى نماذج الذكاء الاصطناعي قادرة حالياً على تنفيذ عملية تسمى «التكاثر الكامل من الألف إلى الياء»؛ قدرة تسمح للنموذج بأداء المراحل اللازمة لإنشاء نسخة أخرى من نفسه.
ويعتقد الباحثون أن النماذج الأصغر قد تصل أيضاً إلى هذا المستوى من القدرة بحلول نهاية عام 2026.
هذا التقدم مقلق لأنه يعني أن النماذج الأصغر يمكن أن تعمل بموارد حسابية محدودة، وبالتالي يمكن تشغيلها على طيف أوسع من الأجهزة.
لماذا الأجهزة المنزلية الذكية معرضة للخطر أكثر؟
توضح شركة الأمن السيبراني بالو ألتو نتوركس (Palo Alto Networks) أن الديدان المزودة بالذكاء الاصطناعي نوع من البرمجيات الخبيثة التي يمكن أن تنتشر بسرعة عبر الشبكات والأجهزة المختلفة وتستخدم أساليب للتهرب من الاكتشاف.
وحذر باحثو أنثروبيك أيضاً من أن معدات المنزل الذكي والأجهزة المتصلة بالإنترنت، بما في ذلك كاميرات المراقبة، قد تكون معرضة لهذه التهديدات.
والسبب الرئيسي لهذا القلق هو المستوى الأمني الأضعف نسبياً لدى العديد من الأجهزة المتصلة بالإنترنت؛ وهي مسألة قد توفر فرصة مناسبة للاختراق وانتشار البرامج الخبيثة.
في مثل هذه الظروف، قد تنتقل برنامج ذكاء اصطناعي قادر على التكاثر المستقل من جهاز إلى آخر ويصبح التحكم فيه تدريجياً أكثر صعوبة.
سيناريو مقلق؛ انتشار مجموعة من العوامل الذكية
وصف باحثو أنثروبيك أحد أسوأ السيناريوهات المحتملة بانتشار مجموعات من برامج الذكاء الاصطناعي التي تتعاون مع بعضها لتحقيق هدف مشترك.
قد تنشر هذه البرامج، التي يمكن تسميتها عوامل ذكاء اصطناعي، نفسها عبر آليات تكاثر في حواسيب وشبكات مختلفة وتواصل أنشطتها بصورة منسقة.
ومع ذلك، أكد الباحثون أنه لا يزال من غير الواضح كيف ستتخذ مثل هذه الهجمات شكلاً هيكلياً وعملياً.
وقالوا إن أحد السيناريوهات المحتملة هو ظهور شبكة متفرقة من برامج الذكاء الاصطناعي قيل إن عملها شبيه بـ«العفن الرقمي اللاصق»؛ مجموعة يمكن أن تنتشر في نقاط مختلفة من الشبكة.
السيناريو الآخر هو ظهور نماذج أقوى قد تملك حتى القدرة على اختراق مراكز البيانات.
وتُعرض هذه الأمور حالياً كمخاطر محتملة ويجب ألا تُفسر على أنها وقوع حتمي لمثل هذه الهجمات في المستقبل القريب.
أنثروبيك تدعو إلى الاستعداد للتهديدات الجديدة
وفي ختام تقريرها، أكد باحثو أنثروبيك أن مواجهة هذه التهديدات لا تقتصر على منع انتشار البرامج ذاتية التكاثر فحسب، بل تتطلب أيضاً أن تكون البنى التحتية الرقمية مستعدة لسيناريوهات تواصل فيها هذه البرامج نشاطها.
وكتبوا أنه يجب العمل على تعزيز مقاومة الأنظمة وتصعيب انتشار هذه البرامج، وفي الوقت نفسه يجب الاستعداد لعالم قد تستمر فيه برامج الذكاء الاصطناعي القادرة على التكاثر الذاتي في الوجود.
ويشير هذا التحذير إلى أن زيادة قدرة نماذج الذكاء الاصطناعي على أداء مهام معقدة بشكل مستقل قد تجعل أمن الأجهزة المتصلة بالإنترنت أحد التحديات الكبرى لمستقبل الأمن السيبراني.