أعلنت شركة أنثروبيك أن نموذج الذكاء الاصطناعي الخاص بها، كلود، يلعب دورًا متزايدًا في تطوير الجيل التالي من نفسه؛ وهي عملية تثير تساؤلات جديدة حول ابتعاد صناعة الذكاء الاصطناعي عن القدرة على التحسين الذاتي التكراري.
وبحسب تقرير إتنا، قالت أنثروبيك في بيان يوم الخميس إن كلود الآن يتولى قيادة ٢٦٪ من أنشطة البحث والتطوير لنماذج الشركة.
ووفقًا لأنثروبيك، فهذا يعني أن كلود يمكنه إنجاز معظم مهمة محددة فقط استنادًا إلى أمر عام، بصورة «من البداية إلى النهاية» وتحت إشراف بشري؛ مع أن النموذج لا يزال لا يعمل بشكل مستقل تمامًا.
وبحسب التقرير، فإن نحو ٩٠٪ من أنشطة البحث والتطوير للشركة تُنجز أيضًا في شكل «تعاون» مع كلود؛ وهو وضع يعني، بحسب أنثروبيك، قدرة النموذج على أداء أجزاء كبيرة من العمل لكن تحت توجيه بشري وثيق.
نمو دور كلود
النقطة اللافتة في هذا التقرير هي سرعة نمو حصة كلود في البحث والتطوير. ووفقًا لإعلان أنثروبيك، كانت حصة كلود في قيادة المشاريع بشكل مستقل صفرًا في شهر فبراير، لكنها بعد ستة أشهر فقط، في أغسطس، بلغت ٢٦٪.
كما ذكرت الشركة أنها حتى أغسطس كان هناك نحو ٣٠ ألف وكيل ذكاء اصطناعي يعملون في الأعمال البحثية والهندسية.
سياق مخاوف السلامة
صدر هذا الإعلان في وقت دعا فيه بعض الشخصيات البارزة في صناعة الذكاء الاصطناعي، من بينهم داريو أمودي، الرئيس التنفيذي لأنثروبيك، إلى إبطاء وتيرة تطوير هذه التكنولوجيا بسبب مخاوف تتعلق بالسلامة.
وأكدت أنثروبيك في بيانها أنه يجب بذل كل جهد لتقليل الفجوة بين معرفة مختبرات الذكاء الاصطناعي الرائدة والوعي العام.
ومع ذلك، لا يتضح من هذا البيان إلى أي مدى ترى أنثروبيك أنها تقترب من تحقيق «التحسين الذاتي التكراري» (أي قدرة نموذج الذكاء الاصطناعي على تحسين نسخ لاحقة من نفسه بشكل مستقل دون تدخل بشري). لكن سرعة زيادة دور كلود في العمليات البحثية جذبت انتباه مراقبي هذا المجال.
ووفقًا لما كتبه nbcnews، نشرت الشركة أيضًا تفاصيل حول إجراءات الرقابة على الوكلاء لتوضيح مدى دقة أنظمة المراقبة في التعرف على السلوك غير الملائم المحتمل للوكلاء.