ساتيا نادلا، رئيس مجلس الإدارة والرئيس التنفيذي لشركة مايكروسوفت، تحدث يوم السبت عن ضرورة تصميم أنظمة الذكاء الاصطناعي المتقدم بحيث تكون مزودة بآليات احتواء، ورقابة مستقلة و"فرملة طارئة"؛ آلية تتيح للأشخاص المصرح لهم إيقاف النموذج أو إطفائه أثناء تنفيذ مهمة ما.
وبحسب تقرير إيتنا، طرح نادلا هذا الرأي في شكل ملاحظة مفصّلة على شبكة التواصل الاجتماعي X. وكتب في تلك الملاحظة أن الوقت قد حان لأن تعيد صناعة الذكاء الاصطناعي تقييم "بنية الثقة" لديها وأنه لا ينبغي بعد الآن التعامل مع أنظمة الذكاء الاصطناعي المتقدم كمجموعة من الصناديق السوداء المتداخلة التي تُقبل أو تُرفض توصياتها، إجاباتها وإجراءاتها فحسب.
وبينما كتب نادلا، يجب دائمًا افتراض أن نموذج الذكاء الاصطناعي قد تعرّض للاختراق أو للخلل، ويجب احتواؤه منذ البداية. وشبَّه هذا النهج بالفرملة الطارئة مؤكّدًا أنه كلما تقدمت النماذج، زادت الحاجة إلى تقنيات احتواء أكثر تعقيدًا وموحدة.
بنية قائمة على عدم اليقين تجاه النموذج
وبحسب التقرير، اقترح نادلا أن تظل طبقة التنسيق منفصلة عن النموذج نفسه وأن تُدار ضوابط الوصول وإجراءات النموذج خارجَه. كما دعا إلى تسجيل جميع الإجراءات المهمة للنموذج في شكل تقارير غير قابلة للتلاعب ومفهومة للبشر.
وبلغ كلام الرئيس التنفيذي لشركة مايكروسوفت أن أنظمة السوبرذكاء المستقبلية الأكثر موثوقية لن تكون تلك التي تمنح أقصى درجات الثقة للنموذج ذاته، بل الأنظمة التي تقل فيها الاعتمادية على الثقة بالنموذج. واعتبر أن التصميم القائم على مبادئ "قابلية المراقبة" (observability) أحد أركان هذا النهج.
سياق أوسع للمخاوف بشأن أمان الذكاء الاصطناعي
تأتي تصريحات نادلا في وقت حذّر فيه عدد من المديرين والباحثين البارزين في مجال التكنولوجيا، بمن فيهم بيل غيتس (مؤسس مايكروسوفت)، داريو أمودي (المدير التنفيذي لشركة Anthropic)، سام ألتمان (المدير التنفيذي لشركة OpenAI) وإيلون ماسك (المدير التنفيذي لشركة SpaceX)، مرارًا من عدم كفاية بروتوكولات أمان الذكاء الاصطناعي وسرعة تطور هذه التكنولوجيا.
وفي هذا السياق، عارض دونالد ترامب، رئيس الولايات المتحدة، في وقت سابق إبطاء وتيرة تطوير الذكاء الاصطناعي في بلاده، رغم أن إدارته أطلقت في الوقت نفسه فريق عمل خاصًا يتمحور حول أمان الذكاء الاصطناعي.
وأشار نادلا في جزء من ملاحظته إلى أن المؤسسات التي توظف أنظمة ذكاء اصطناعي متقدمة لا يجب أن تكتفي بضمانات المُصنعين، بل يجب أن تتحمل بنفسها مسؤولية إنشاء طبقات احتواء ورقابة.