الاعتماد المفرط على الذكاء الاصطناعي يمكن أن يحول المستخدمين إلى أهداف محتملة للمجرمين السيبرانيين. الأفراد والشركات في طريقهم لزيادة الإنتاجية والسرعة يسلمون جزءًا كبيرًا من أنشطتهم إلى عوامل الذكاء الاصطناعي دون إجراء الفحوصات اللازمة.
الثقة العمياء بالذكاء الاصطناعي يمكن أن تزيد مخاطر الأمن السيبراني بشكل ملحوظ. اليوم، أهم نقاط الضعف الأمنية ليست محصورة في البرمجيات أو العتاد فقط، بل تكمن في طريقة تفاعل الأشخاص، لا سيما مع عوامل الذكاء الاصطناعي.
قدرات الذكاء الاصطناعي تتطور بسرعة كبيرة وهذه النظم باتت الآن قادرة على التخطيط، واستخدام واجهات برمجة التطبيقات والأدوات الضابطة، وأداء مهام معقدة تلقائيًا وبدون تدخل بشري مباشر.
ومع ذلك، تأتي هذه التقدّمات أيضًا بمخاطر الاعتماد الكامل على الراحة والإنتاجية.
بحسب أحد خبراء أبحاث الأمن في كاسبرسكي، في الحالة المثالية يجب فحص كل مرحلة من مراحل تطوير برامج الذكاء الاصطناعي، لكن المراقبة الحقيقية لهذه العمليات غالبًا ما يتم تجاهلها بسبب التركيز على السرعة والوفاء بالمواعيد النهائية. عندما تتحول الثقة بالذكاء الاصطناعي إلى ثقة عمياء، سيشكل ذلك خطرًا كبيرًا على الأمن السيبراني.
لم يعد على المهاجمين السيبرانيين بالضرورة تحديد التعقيدات الفنية لتنفيذ الهجمات؛ إذ يمكنهم استغلال الثقة المفرطة للمستخدمين بالذكاء الاصطناعي.
هذا التهديد لا يستهدف المستخدمين فقط بل يمتد أيضًا إلى البنى التحتية الأساسية لشركات التكنولوجيا التي تعتمد على البرمجيات مفتوحة المصدر. المبرمجون وعوامل الذكاء الاصطناعي يعتمدون على هذه البرمجيات لأداء مهامهم، وهذه الاعتمادية يمكن أن تتحول إلى نقطة تنفيذ للهجمات.
وفقًا لتقرير كاسبرسكي، فقد تعرضت ٣١ في المئة من الشركات لهجمات استهدفت سلسلة التوريد الخاصة بها. أحد أمثلة هذه الهجمات كان الهجوم على مكتبة جافاسكربت Axios حيث تمكن المهاجمون من السيطرة عليها ونشر نسخة خبيثة من البرنامج.
بالإضافة إلى ذلك، كشف Kaspersky Container Security عن آلاف من التهيئات المحتملة الخاطئة خلال عمليات التكامل والتوزيع المستمر على منصة GitHub Actions.
استمرار هذه التهديدات يدل على أن التحقق والفحص والمراقبة المستمرة للتطبيقات وعوامل الذكاء الاصطناعي أمر بالغ الأهمية للحفاظ على سلامتها وأمنها.