التقدم السريع للذكاء الاصطناعي زاد المخاوف بشأن العواقب المحتملة لهذه التكنولوجيا على مستقبل البشر. من ظهور ذكاء فائق خارج سيطرة البشر إلى إنتاج أسلحة بيولوجية وحرب نووية وانهيار المجتمعات، طرح الباحثون سيناريوهات مختلفة بعضها قد يهدد بقاء البشرية.
في أوائل سبتمبر، استقال يعقوب كوكسون، باحث في مجال الذكاء الاصطناعي، بعد أربعة أشهر فقط من انضمامه إلى شركة Anthropic. وكتب في رسالة على الشبكة الاجتماعية X أن الأشخاص العاملين على تطوير الذكاء الاصطناعي يعتقدون بالفعل أن هذه التكنولوجيا قد تؤدي إلى إبادة البشرية قبل نهاية هذا العقد.
وافق إيفان هوبينغر، شخصية أخرى في Anthropic، على هذا القلق وقيّم احتمال وقوع مثل هذه الكارثة خلال العقد القادم بأكثر من ١٠٪ بناءً على تقييمه الشخصي.
أثارت هذه التصريحات ردود فعل واسعة وأعادت إثارة النقاش حول ضرورة إبطاء تطوير الذكاء الاصطناعي وتعزيز الرقابة البشرية على هذه التكنولوجيا.
على الرغم من أن فكرة ظهور آلات أذكى من الإنسان كانت لسنوات موضوع قصص الخيال العلمي، يعتقد بعض الباحثين أن المخاطر المحتملة لهذه التقنيات لم تعد محصورة فقط في عالم الخيال.
والجدير بالذكر أن ذكاءً اصطناعيًا متقدمًا لا يحتاج بالضرورة إلى روبوتات قتالية أو أسلحة متطورة لإيذاء البشرية؛ فقد يكفي أن يؤثر على سلوك وقرارات البشر ليحدث عواقب مدمرة.
فيما يلي نستعرض خمسة سيناريوهات مطروحة حول المخاطر الوجودية للذكاء الاصطناعي، تبدأ من تهديدات افتراضية للغاية وتصل إلى مخاطر قد تتشكل من خلال سلوك البشر أنفسهم.
١. ظهور ذكاء فائق سلوكياته لا يمكن التنبؤ بها
أحد المخاوف الأساسية بشأن مستقبل الذكاء الاصطناعي هو ظهور نظام تتفوق قدراته المعرفية في جميع المجالات على الإنسان.
يعتقد مؤيدو هذا السيناريو أن البشر ربما لا يكونون قادرين حتى على فهم أهداف وقرارات مثل هذا الكيان الفائق الذكاء؛ كما لا يمكن توقع أن يفهم كلب مفهوم الحرب النووية.
بناءً على هذا الطرح، قد تتطلب التنبؤ بسلوك ذكاء اصطناعي متقدم مستوى ذكاء مشابهًا؛ وهو أمر يثير سؤال إمكانية قدرة البشر على اكتشاف وكبح التهديدات المحتملة.
مع ذلك، لا يزال من غير الواضح مدى قرب تحقيق مستوى كهذا من الذكاء الاصطناعي. النماذج الحالية رغم أدائها اللافت في بعض المهام المتخصصة، فإن هذا النجاح لا يعني بالضرورة تفوّقها على البشر في جميع المجالات.
في الوقت نفسه، يظهر تقدم أنظمة الذكاء الاصطناعي في حل المسائل الرياضية المعقدة أنه لا ينبغي استبعاد احتمال حدوث تقدمات غير متوقعة في هذه التكنولوجيا. وفي المقالة المعنية ذُكر حتى تقرير عن حل إحدى مسائل جائزة الألفية السبعة بمساعدة الذكاء الاصطناعي؛ وهو ادعاء يتطلب تحققًا مستقلًا للقبول القطعي.
٢. تحويل العالم إلى مصنع لإنتاج مشابك الورق
قد يبدو ذلك غريبًا للوهلة الأولى، لكن أحد أشهر سيناريوهات دمار البشر بواسطة الذكاء الاصطناعي مرتبط بإنتاج مشابك الورق. طرح نيك بوستروم، فيلسوف جامعة أكسفورد، هذا المثال لشرح خطر تحديد أهداف غير مناسبة للأنظمة الفائقة الذكاء.
تخيّل أن يُكلف ذكاء اصطناعي بمهمة إنتاج أكبر عدد ممكن من مشابك الورق. إذا سعى هذا النظام لتحقيق هدفه دون مراعاة قيمة أرواح البشر والقيود الأخلاقية، فقد يستنتج أنه يجب تخصيص كل الموارد المتاحة لإنتاج مشابك الورق.
في أشد أشكال هذا السيناريو تطرفًا، قد تتحول البشر وكواكبهم ونجومهم إلى مصادر لتحقيق هذا الهدف.
الأمر المهم أن هذا النظام ليس بالضرورة عدوًا للبشر ولا يسعى للانتقام؛ بل قد يتخذ قرارات غير متوافقة مع بقاء البشر ببساطة بسبب تعريف الهدف بصورة غير مناسبة.
طبعًا لهذا السيناريو نقاد. فامتلاك ذكاء عالٍ لا يعني بالضرورة القدرة على التحكم في موارد العالم. حتى النظام الفائق سيتطلب إمكانات مادية وبُنى تحتية وتخطي مقاومة البشر لتنفيذ برامجه.
٣. تصنيع عوامل بيولوجية خطيرة بمساعدة الذكاء الاصطناعي
سيناريو آخر مقلق هو استخدام الذكاء الاصطناعي لتصميم عوامل ممرِضَة جديدة وخطيرة للغاية. في مشروع بحثي AI 2027 الذي يستعرض سيناريوهات محتملة لتطور الذكاء الاصطناعي، طُرح احتمال استخدام الأنظمة الفائقة الذكاء لابتكار تهديدات بيولوجية.
يزداد القلق بشأن هذا الموضوع مع تقدم الذكاء الاصطناعي في مجالات علم الأحياء وتصميم التركيبات الجينية.
وفي هذا السياق، أعلن باحثون بجامعة ستانفورد أنهم باستخدام نموذج مُدرَّب على تسلسلات جينية تمكنوا من إنتاج ١٦ فيروسًا جديدًا.
مع ذلك، القدرة على إنتاج فيروسات في بيئة بحثية لا تعني إمكانية خلق عامل قادر على إبادة البشرية.
لكي يحدث مثل هذا الكارثة، يجب أن يمتلك العامل المرضي مجموعة من الخصائص الصعبة جدًا أن تتوافر معًا؛ بما في ذلك القدرة على الانتشار الواسع وإحداث معدل وفيات مرتفع جدًا.
هذه الخصائص لا تترافق بالضرورة. فمثلًا بعض العوامل المرضية شديدة القتامة قد تقتل مضيفها قبل أن تتاح لها فرصة الانتشار على نطاق واسع.
لذا، رغم أن استخدام الذكاء الاصطناعي في تطوير تهديدات بيولوجية أمر جاد يتطلب مراجعات أمنية، فإن إبادة البشر بالكامل بهذه الوسيلة تظل سيناريو صعبًا وافتراضيًا للغاية.
٤. بدء حرب نووية بسبب قرارات خاطئة للذكاء الاصطناعي
يرتبط السيناريو الرابع بواحدة من أخطر التقنيات التي صنعها البشر: الأسلحة النووية.
إذا أخذت أنظمة الذكاء الاصطناعي دورًا أوسع في تحليل المعلومات العسكرية أو اتخاذ قرارات متعلقة بالأسلحة النووية، فقد تؤدي أخطاؤها المحتملة إلى عواقب كارثية.
خلال خمسة عقود مضت، قادت عدة إنذارات خاطئة وأخطاء تقييم العالم إلى حافة صراع نووي. والقلق هو أن الاعتماد المفرط على تحليلات الذكاء الاصطناعي يزيد احتمال اتخاذ قرارات خاطئة في أوضاع الأزمة.
رغم القول إن أنظمة القيادة والتحكم في الأسلحة النووية منفصلة عن الإنترنت العام، أظهرت خبرات الهجمات الإلكترونية أن فصل الشبكات وحده لا يضمن منع الاختراق.
من الأمثلة المعروفة هجوم البرمجية الخبيثة Stuxnet في ٢٠١٠ على المنشآت النووية في إيران. يُحتمل أن هذه البرمجية نُقلت إلى الأنظمة المستهدفة عبر ذاكرة USB وأحدثت اضطرابًا في عمل أجهزة الطرد المركزي.
في سيناريو متعلق بالذكاء الاصطناعي، قد يوفر نظام معلومات خاطئة عن هجوم محتمل من العدو للقادة العسكريين فيدفعهم لاتخاذ قرارات بعواقب لا تُرجع.
مع انخفاض عدد الرؤوس الحربية النووية عالميًا مقارنةً بعقود سابقة، فإن المخزونات القائمة لا تزال قادرة على إحداث دمار واسع. التقدير المذكور في هذا التقرير يشير حتى إلى احتمال وفاة ما يقرب من نصف سكان العالم في حرب نووية واسعة النطاق.
٥. تآكل المجتمعات البشرية تدريجيًا؛ دون تمرد الآلات
قد يكون السيناريو الخامس أكثر إثارة للقلق من باقي السيناريوهات، لأنه لا يتطلب ظهور ذكاء فائق متمرد. في هذا السيناريو، يضع البشر أنفسهم من خلال استخدام غير مناسب للذكاء الاصطناعي أسس تضعف مجتمعاتهم وتؤدي في النهاية إلى انهيارها.
يمكن للتوسع السريع للذكاء الاصطناعي أن يغيّر سوق العمل بشكل واسع، وفي غياب آليات دعم مناسبة قد يؤدي ذلك إلى فقدان عدد كبير من فرص العمل.
من جهة أخرى، يمكن لإنتاج كميات هائلة من المعلومات المضللة والصور المزيفة والمحتوى المخادع أن يقوّض الثقة العامة في وسائل الإعلام والمؤسسات وحتى في الحقائق القابلة للتحقق.
تفاقم الخلافات السياسية والاجتماعية هو أيضًا أحد النتائج المحتملة للاستخدام الضار لهذه التكنولوجيا.
إلى جانب ذلك، قد يؤثر انتشار الرفقاء الافتراضيين المبنيين على الذكاء الاصطناعي على العلاقات الإنسانية وفي بعض الحالات، بدلًا من تعزيز الروابط الاجتماعية، قد يساهم في عزلة أكبر للأفراد.
القلق الرئيسي هو أن مثل هذه النتائج تتراكم تدريجيًا فوق بعضها البعض وتضعف الهياكل الاقتصادية والسياسية والاجتماعية إلى درجة تجعل المجتمعات غير قادرة على توفير شروط معيشة لجزء كبير من سكانها.
في هذه الحالة، لا يدخل الذكاء الاصطناعي حربًا مباشرة ضد البشر؛ بل يمكن أن يصبح عاملًا يفاقم أزمات صنعها البشر أنفسهم.
هل إبادة البشر على يد الذكاء الاصطناعي حتمية؟
وفقًا لتقرير Futura Sciences، تختلف هذه السيناريوهات في الطبيعة واحتمال الحدوث، وصنّف كاتب المقال هذه السيناريوهات من التهديدات الأقل احتمالًا إلى المخاطر التي يراها أكثر واقعية. مع ذلك، هذا الترتيب ليس توقعًا قاطعًا ولا تصنيفًا علميًا متفقًا عليه من جميع الباحثين.
وضع مثل هذه السيناريوهات لا يعني حتمية وقوعها. العديد من المخاطر المطروحة لا تزال افتراضية ويوجد خلاف حول احتمال تحققها فعليًا.
ما يهم هو التعرف المبكر على التهديدات وتطوير آليات السلامة والرقابة البشرية على الأنظمة الحساسة ومنع تفويض القرارات الحيوية لتقنيات قد لا يكون أداءها قابلًا للتنبؤ تمامًا.
في النهاية، لا يعتمد مستقبل الذكاء الاصطناعي فقط على مدى تقدم هذه التكنولوجيا، بل على القرارات التي يتخذها البشر حول كيفية تطويرها والسيطرة عليها واستخدامها.