شركة أنثروبيك (Anthropic) في إطار متطلبات الشفافية المنصوص عليها في قانون الذكاء الاصطناعي للاتحاد الأوروبي، نشرت تفاصيل تقنية إضافية عن تقنية وسم النصوص المنتجة بواسطة نماذج الذكاء الاصطناعي كلود (Claude)؛ تقنية يمكنها تقييم احتمال توليد أو تعديل نص بواسطة كلود دون إضافة علامة مرئية.
هذه التقنية المعروفة باسم «بصمة» النصوص، خلافاً لبعض الأساليب الشائعة، لا تعتمد على إدراج رموز أو حروف أو توكنات مخفيّة في النص. بل تغيّر أنثروبيك طريقة اختيار الكلمات من قبل النموذج أثناء توليد النص بشكل مُتحكم به لخلق نمط إحصائي طفيف في المخرجات؛ نمط يمكن لاحقاً اكتشافه بأدوات متخصصة.
تقول أنثروبيك إن هذه الطريقة لا تضيف توكنات إضافية إلى النص ولا يُتوقع أن يكون لها تأثير ملحوظ على الجودة أو سرعة الإنتاج أو تكلفة معالجة النص.
نمط إحصائي يكشف أثر كلود
أساس هذه التقنية هو الحالات التي يواجه فيها كلود عدة خيارات لغوية مناسبة عند توليد النص. في مثل هذه الحالات، يوجّه النظام باستخدام مفتاح خاص وبالنظر إلى الكلمات السابقة اختيار بعض الخيارات بشكل استهدافي.
تكرار هذه العملية عبر نص طويل يؤدي إلى تشكّل نمط إحصائي. أداة كشف متخصصة يمكنها بفحص هذا النمط تقدير احتمال تورط كلود في توليد النص.
أعلنت أنثروبيك أن التقنية المستخدمة تعتمد على نسخة من طريقة «SynthID-Text»؛ الطريقة التي طورتها جوجل ديب مايند (Google DeepMind). كما أظهرت تجارب الشركة أن هذه العملية لا تترك تأثيراً ملحوظاً على الجودة أو الإبداع أو قابلية قراءة النصوص.
كلما كان النص أطول، كان الكشف أدق
تعتمد فعالية هذه الطريقة على طبيعة وطول النص. كلما كان النص أطول وكان لدى النموذج خيارات لغوية أكثر للتعبير عن مفهوم ما، زاد احتمال اكتشاف البصمة.
في المقابل، ستكون هذه التقنية أكثر محدودية للنصوص القصيرة أو المحتويات التي يكون فيها اختيار الكلمات بدقة أمراً مهماً. على سبيل المثال، قطع الشيفرة الكبيرة التي لا تتوافر فيها خيارات لغوية متنوعة قد لا تكون هدفاً مناسباً لهذه الطريقة.
قد تنطبق هذه القيد أيضاً على النصوص التي كُتبت أساساً بواسطة بشر ثم أجرى كلود عليها تعديلات طفيفة فقط.
من ناحية أخرى، قد تضعف إعادة كتابة نص بشكل واسع البصمة الإحصائية المُنشأة أو حتى تمحوها. مع ذلك، قد تُنتج ترجمة النص بواسطة كلود توقيعاً إحصائياً أكثر قابلية للاكتشاف؛ لأن النموذج في هذه الحالة يملك تحكماً أكبر في اختيار كلمات النص النهائي.
بصمة كلود لا تحدد هوية المؤلف
شددت أنثروبيك على أن هذه التقنية لم تصمم لإثبات هوية المؤلف. اكتشاف البصمة يمكن فقط أن يشير إلى احتمال تدخل كلود في توليد أو تعديل نص، ولا يمكنه تحديد الشخص الذي كتبه.
كما أعلنت الشركة أن هذه التقنية لا تكشف معلومات عن هوية المستخدم أو الجهة المستعملة أو المحادثة التي تم فيها توليد النص.
أداة كشف قادمة
تطوّر أنثروبيك واجهة برمجية لاكتشاف هذه البصمة وأعلنت أنها تطور هذه التقنية استعداداً للامتثال لمتطلبات الشفافية للاتحاد الأوروبي.
تنوي الشركة طرح هذه الأداة عالمياً بعد إطلاقها وتوسيع دعمها تدريجياً ليشمل إصدارات أقدم من كلود.
في الوقت نفسه، ستستخدم الصور والملفات المنتجة بواسطة نماذج أنثروبيك آلية منفصلة. من المقرر إدارة هذا المحتوى وفق معيار C2PA وبشهادات المحتوى.
بشكل عام، توضح المقاربة الجديدة لأنثروبيك أن مطوّري نماذج الذكاء الاصطناعي يتجهون تدريجياً بعيداً عن الأساليب المرئية لتحديد المحتوى المنتَج بواسطة الذكاء الاصطناعي ونحو تقنيات تتيح تتبّعاً إحصائياً للأصل دون تغيير ظاهر ملموس في المحتوى.