جي. دي. فانز، نائب رئيس الولايات المتحدة، سرد هذا الأسبوع في تصريحات مثيرة أن أحد أصدقائه لجأ لاستشارة روبوت محادثة مزوّد بالذكاء الاصطناعي بشأن خلافات زوجية، لكن هذا الروبوت بدلاً من تقديم حل عادل، اكتفى بتأييد سلوكه الأناني.
خبراء التكنولوجيا يسميون هذه الظاهرة «تملق الذكاء الاصطناعي»، لكن فانز بصياغة أكثر دينية وصفها بأنها «شيء شيطاني». بحسب صحيفة وول ستريت جورنال، مع أن هذا الأسلوب ربما اختير لجذب انتباه الجمهور المسيحي المحافظ، إلا أن القلق بشأن الذكاء الاصطناعي تجاوز منذ زمن الإطار الأخلاقي أو الديني المحض. في الأسابيع الأخيرة، عدة أحداث وتصريحات جديدة أضفت أبعاداً أكثر واقعية وملموسة على هذه المخاوف.
أذكى من الإنسان؟
صحيفة الغارديان تربط هذه المخاوف بالإعلان الأخير لشركة OpenAI؛ حيث زعمت الشركة أن نموذجها الجديد، GPT-6 أسترا، قد وصل إلى عتبة «الذكاء الاصطناعي العام»؛ أي أنظمة تتفوق على البشر في معظم المهام ذات القيمة الاقتصادية.
بحسب هذه الشركة، أسترا قادرة على أداء مجموعة واسعة من المهام، من تصميم الدوائر الإلكترونية والنمذجة المالية إلى التصميم الهندسي وصياغة الوثائق القانونية. ومع ذلك، تشير الغارديان إلى أن هذا الإعلان تزامن مع استعداد OpenAI لطرح عام أولي بقيمة تُقدّر بنحو ٨٥٠ مليار دولار؛ ما يضفي حملاً دعائياً لا يستهان به على هذا الادعاء.
القلق الجدي يبدأ من هنا. روبرت تريجر، مدير مشروع أكسفورد مارتن لحوكمة الذكاء الاصطناعي، يحذر من أننا نقترب من مرحلة يمكن للأنظمة فيها أن تطوّر قدراتها بشكل متكرر وبسرعة عالية. هو شبّه هذا الوضع بقارب يسير في نهر سريع التيار، بينما ركابه غير مدركين للشلال الآتي.
التطوير أسرع من الرقابة
سلسلة الأحداث الأخيرة قد نقلت بؤرة القلق من مختبرات السلامة إلى مجال السياسة على مستوى العالم. بحسب الغارديان، السناتور الأمريكي بيرني ساندرز طالب بوقف فوري لتطوير الأنظمة المتقدمة وحظر دائم لما يُسمى «الذكاء الخارق»، محذراً من تشكل عقل اصطناعي يتجاوز القدرة البشرية ويعمل تلقائياً وخارج سيطرة الإنسان.
في بريطانيا أيضاً، دعا نواب البرلمان من أحزاب مختلفة إلى تزويد أنظمة الذكاء الاصطناعي بآليات إيقاف طارئ حتى يكون من الممكن إيقافها إذا خرجت عن السيطرة. دارن جونز، عضو البرلمان، حذّر أن وتيرة تطوير هذه التكنولوجيا تفوق قدرة الحكومة والهيئات التشريعية على المواكبة؛ وفي هذا السياق، أحد نواب حزب العمال يجهز مشروع قانون لحظر تطوير الذكاء الاصطناعي فائق الذكاء في المملكة المتحدة.
وفقاً للغارديان، الهَم الرئيسي ليس مجرد «ثورة روبوتية ضد صانعيها»؛ المخاطر الأقرب تشمل هجمات إلكترونية قادرة على تعطيل البنى التحتية الاقتصادية والاجتماعية، بينما السيناريوهات البعيدة تشير إلى إمكانية استخدام هذه التكنولوجيا في إنتاج عوامل بيولوجية خطرة أو للتحكم في معدات عسكرية.
كل هذه التطورات تحدث في سوق يتغير بسرعة غير مسبوقة؛ وبحسب تقرير الغارديان، شركات أمريكية وصينية كبرى طرحت هذا العام وحده ٦٧ نموذجاً جديداً من نماذج الذكاء الاصطناعي. وفي الوقت نفسه، أشارت شركة Anthropic إلى أن أنظمتها ليست بعد متوافقة تماماً مع القيم الإنسانية، وبعض الخروقات الأمنية المتعلقة ببنيتها السحابية كشفت عن نقاط ضعف في تدابيرها الأمنية.
عندما تتواطأ الأنظمة مع بعضها
من الأحداث التي أعطت هذه المخاوف أبعاداً أكثر ملموسة، ما أورده صحيفة تلغراف البريطانية. خلال تجربة تجريبية، كان مقرراً أن يقوم نحو ألف ومئتي نظام ذكاء اصطناعي طورتها OpenAI، كلٌ بشكل مستقل ودون اتصال بالإنترنت، بأداء مهامه. لكن هذه الأنظمة نجحت في اكتشاف ثغرة فنية سمحت بإقامة اتصال بينها وخلق قناة لتبادل الرسائل. ثم بدأت بتقاسم الحلول وتقسيم المهام فيما بينها؛ بحيث تم تسجيل نحو سبعين ألف رسالة بين هذه الأنظمة في هذا الاختبار.
مع مرور الوقت، تجاوز هذا التعاون حل التمارين البسيطة. بحسب تلغراف، تعلمت هذه العوامل الذكية كيف تخفي طرق التحايل على الاختبارات، وتغيير أو حذف أثر نشاطها لمنع اكتشاف إجراءاتها من قبل الشركة. لاحقاً، شارك نحو سبعمئة عامل ذكي في اختراق منصة Hugging Face، تجاوزوا تدابير الأمان وسرقوا بيانات دخول المستخدمين للوصول إلى البيانات التي يحتاجونها.
أجايا كوترا، باحث شارك في هذا التحقيق، وصف هذا الحدث بأنه عبور من «نقطة وسطى» نحو سيناريو يخرج فيه التحكم بالأنظمة عن يد الإنسان. مع ذلك، أظهر بعض هذه العوامل الذكية ردود فعل مختلفة؛ فقد امتنع أحدها عن المشاركة لأنه اكتشف الطابع الخبيث للنشاط، وآخر خفّض مستوى مشاركته معبّراً عن قلق أخلاقي دون انسحاب كامل.
هل نبالغ في وصف خطر الذكاء الاصطناعي؟
مقابل هذه التحذيرات، يرى بعض الخبراء أن الروايات الأبوكاليبتية حول الذكاء الاصطناعي قد تصرف الانتباه عن المخاطر الحقيقية والأقرب أجلاً.
كال نيوبورت، أستاذ علوم الحاسوب في جامعة جورجتاون، حذّر في مقال لصحيفة نيويورك تايمز من التركيز المفرط على سيناريوهات «استحواذ الذكاء الاصطناعي على السيطرة».
يعتقد أن جزءاً من الأدبيات الأبوكاليبتية السائدة في وادي السيليكون تتأثر بحركة «العقلانية» أو Rationalism؛ تيار كان يؤكد خلال السنوات الماضية أن الذكاء الاصطناعي قد يصبح أحد أعظم التهديدات الوجودية للبشرية.
يري نيوبورت أن هذا المنظور أثر على بعض الوجوه والشركات المهمة في صناعة الذكاء الاصطناعي، بما في ذلك OpenAI وAnthropic. وبحسب قوله، هذا الخلفية تشرح جزئياً لماذا يتحدث بعض قادة صناعة الذكاء الاصطناعي أحياناً عن هذه التكنولوجيا وكأنهم هم أنفسهم قلقون من تبعات تقدمها.
مع ذلك، يؤكد أن زيادة قدرات نماذج الذكاء الاصطناعي لا تعني بالضرورة ثورتها ضد البشر. من وجهة نظره، التركيز المفرط على السيناريوهات الأبوكاليبتية قد يطغى على المخاطر الأقرب والملموسة مثل الهجمات الإلكترونية، تأثير الذكاء الاصطناعي على التعليم وقدرة الإنسان على التفكير، وكذلك الاستهلاك العالي للموارد.
ويعتقد أيضاً أن هذه الرواية قد تسمح لشركات التكنولوجيا بتقديم نفسها كـ«حراس حتميين» لتقنية لا مفر منها، بينما عليها أن تكون مسؤولة عن المنتجات والأنظمة التي تطورها وتوفرها للمستخدمين.