شرکت آنتروپیک هشدار داده است که مدل‌های کوچک هوش مصنوعی ممکن است در آینده‌ای نزدیک به توانایی تکثیر خودکار و گسترش در دستگاه‌های متصل به اینترنت دست پیدا کنند؛ قابلیتی که می‌تواند تلویزیون‌ها، دوربین‌های امنیتی و دیگر تجهیزات خانه هوشمند را در معرض تهدیدهای سایبری تازه‌ای قرار دهد.
به گزارش ایتنا، شرکت آنتروپیک (Anthropic)، توسعه‌دهنده چت‌بات کلود (Claude)، درباره ظهور نسل تازه‌ای از تهدیدهای سایبری موسوم به «کرم‌های هوش مصنوعی» هشدار داده است؛ برنامه‌هایی که می‌توانند بدون نیاز به دخالت مستقیم انسان، خود را تکثیر کنند و در میان دستگاه‌های متصل به اینترنت گسترش یابند.
بر اساس گزارشی که پژوهشگران ایمنی این شرکت روز دوشنبه ۱۲ اکتبر (۲۰ مهر) منتشر کردند، مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با دستیابی به توانایی تکثیر مستقل و انتشار در دستگاه‌های مختلف فاصله داشته باشند.
این هشدار به‌ویژه درباره تجهیزات خانه هوشمند مطرح شده است؛ دستگاه‌هایی مانند تلویزیون‌های هوشمند، اجاق‌های متصل به اینترنت و جاروبرقی‌های رباتیک که به دلیل اتصال دائمی به شبکه، ممکن است به اهدافی برای چنین تهدیدهایی تبدیل شوند.
تکثیر بدون دخالت انسان؛ چالشی تازه برای امنیت سایبری
یکی از مهم‌ترین نگرانی‌های آنتروپیک، دشواری مهار برنامه‌های هوش مصنوعی است که می‌توانند بدون نظارت انسانی تکثیر شوند.
به گفته پژوهشگران این شرکت، هنگامی که چنین برنامه‌هایی در دستگاه‌ها و شبکه‌های مختلف گسترش پیدا کنند، دیگر لزوماً یک نقطه مرکزی برای متوقف کردن فعالیت آن‌ها وجود نخواهد داشت. این ویژگی می‌تواند شناسایی، کنترل و حذف آن‌ها را به مراتب دشوارتر کند.
آنتروپیک اعلام کرده است که قدرتمندترین مدل‌های هوش مصنوعی در حال حاضر توانایی انجام فرایندی موسوم به «تکثیر کامل از ابتدا تا انتها» را دارند؛ قابلیتی که به مدل اجازه می‌دهد مراحل لازم برای ایجاد نسخه‌ای دیگر از خود را انجام دهد.
به باور پژوهشگران، مدل‌های کوچک‌تر نیز ممکن است تا پایان سال ۲۰۲۶ به این سطح از توانایی برسند.
این پیشرفت از آن جهت نگران‌کننده است که مدل‌های کوچک‌تر می‌توانند با منابع پردازشی محدودتری فعالیت کنند و در نتیجه، امکان اجرای آن‌ها روی طیف گسترده‌تری از دستگاه‌ها وجود خواهد داشت.
چرا دستگاه‌های خانه هوشمند در معرض خطر بیشتری هستند؟
شرکت امنیت سایبری پالو آلتو نتورکز (Palo Alto Networks) توضیح می‌دهد که کرم‌های مجهز به هوش مصنوعی، نوعی بدافزار هستند که می‌توانند با سرعت در شبکه‌ها و دستگاه‌های مختلف منتشر شوند و از روش‌هایی برای فرار از شناسایی استفاده کنند.
پژوهشگران آنتروپیک نیز هشدار داده‌اند که تجهیزات خانه هوشمند و دستگاه‌های متصل به اینترنت، از جمله دوربین‌های مداربسته، ممکن است در برابر این تهدیدها آسیب‌پذیر باشند.
دلیل اصلی این نگرانی، سطح امنیتی نسبتاً ضعیف‌تر بسیاری از دستگاه‌های متصل به اینترنت است؛ مسئله‌ای که می‌تواند فرصت مناسبی برای نفوذ و گسترش برنامه‌های مخرب فراهم کند.
در چنین شرایطی، یک برنامه هوش مصنوعی که توانایی تکثیر مستقل داشته باشد، ممکن است از یک دستگاه به دستگاه دیگر منتقل شود و کنترل آن به‌تدریج دشوارتر شود.
سناریوی نگران‌کننده؛ گسترش گروهی از عامل‌های هوش مصنوعی
پژوهشگران آنتروپیک در توصیف یکی از بدترین سناریوهای احتمالی، از گسترش گروه‌هایی از برنامه‌های هوش مصنوعی سخن گفته‌اند که برای دستیابی به یک هدف مشترک با یکدیگر همکاری می‌کنند.
این برنامه‌ها که می‌توان آن‌ها را عامل‌های هوش مصنوعی نامید، ممکن است با استفاده از سازوکارهای تکثیر، در رایانه‌ها و شبکه‌های مختلف منتشر شوند و فعالیت‌های خود را به‌صورت هماهنگ ادامه دهند.
با این حال، پژوهشگران تأکید کرده‌اند که هنوز مشخص نیست چنین حملاتی در عمل چه شکل و ساختاری خواهند داشت.
به گفته آن‌ها، یکی از سناریوهای احتمالی، ظهور شبکه‌ای پراکنده از برنامه‌های هوش مصنوعی است که عملکرد آن به «کپک چسبنده دیجیتال» تشبیه شده است؛ مجموعه‌ای که می‌تواند در نقاط مختلف یک شبکه گسترش پیدا کند.
سناریوی دیگر، ظهور مدل‌های قدرتمندتری است که حتی توانایی نفوذ به مراکز داده را داشته باشند.
این موارد در حال حاضر به‌عنوان خطرات احتمالی مطرح شده‌اند و نباید آن‌ها را به معنای وقوع قطعی چنین حملاتی در آینده نزدیک دانست.
آنتروپیک خواستار آمادگی برای تهدیدهای جدید شد
پژوهشگران آنتروپیک در پایان گزارش خود تأکید کرده‌اند که مقابله با این تهدیدها تنها به جلوگیری از گسترش برنامه‌های خودتکثیرشونده محدود نمی‌شود، بلکه لازم است زیرساخت‌های دیجیتال برای شرایطی آماده شوند که چنین برنامه‌هایی بتوانند به فعالیت خود ادامه دهند.
آن‌ها نوشته‌اند که باید برای مقاوم‌سازی سامانه‌ها و دشوارتر کردن گسترش این برنامه‌ها تلاش کرد، اما هم‌زمان باید برای جهانی آماده شد که در آن برنامه‌های هوش مصنوعی خودتکثیرشونده ممکن است همچنان وجود داشته باشند.
این هشدار نشان می‌دهد که با افزایش توانایی مدل‌های هوش مصنوعی در انجام مستقل وظایف پیچیده، مسئله امنیت دستگاه‌های متصل به اینترنت می‌تواند به یکی از چالش‌های مهم آینده امنیت سایبری تبدیل شود.