مع ازدياد استخدام الذكاء الاصطناعي في إنتاج الصور والفيديو والنصوص، أصبح اكتشاف المحتوى المنشأ بواسطة نماذج الذكاء الاصطناعي أحد التحديات المهمة في الفضاء الرقمي. إزالة العلامات المائية المرئية جعلت هذا الأمر أكثر صعوبة وأثارت السؤال حول كيف يمكن للمستخدمين والصحفيين والمنصات الإلكترونية التحقق من مصدر محتوى ما عندما تختفي العلامة الواضحة التي تشير إلى أنه ناتج عن الذكاء الاصطناعي.
لا تُختصر إجابة هذا السؤال في أداة أو دليل واحد. التقنيات الجديدة لاكتشاف المحتوى الصناعي تعتمد على مجموعة من الأساليب مثل العلامات المائية غير المرئية، وبيانات مصدر المحتوى، والمعايير المشفّرة، والبصمة الرقمية، والتحليل الداخلي للمحتوى.
علامة مائية لا تُرى بالعين
أحد النهج الجديدة لدى شركات التكنولوجيا هو التخلي عن العلامات المائية المرئية ووضع علامة غير مرئية داخل المحتوى نفسه؛ طريقة يصعب إزالتها.
واحدة من أشهر الأمثلة هي SynthID من غوغل. هذه التقنية يمكنها تضمين علامة مائية غير مرئية في المحتوى المنتج بالذكاء الاصطناعي، بما في ذلك الصور والفيديو والصوت والنص.
تقول غوغل ديب مايند إن علامة SynthID في الصور والفيديو مصممة لتظل قابلة للاكتشاف رغم بعض التغييرات الشائعة، مثل القص، وتطبيق الفلاتر، وتغيير معدل الإطارات، والضغط.
أما بالنسبة للنص فهناك آلية مختلفة. يقوم النظام بإنشاء نمط إحصائي عن طريق إجراء تغييرات محكومة في احتمالية اختيار الكلمات أثناء توليد المحتوى، وهو نمط غير مرئي للقارئ، لكن نظامًا مزودًا بالمفتاح قادر على اكتشافه.
أعلنت غوغل أيضًا أن الفيديوهات المنتجة بواسطة نموذج Gemini Omni تحتوي على علامة SynthID غير مرئية وأنه يمكن التحقق منها عبر بعض خدمات غوغل.
C2PA؛ بطاقة تعريف رقمية للمحتوى
طبقة أخرى من تقنيات التحقق هي معيار C2PA. يمكن اعتبار هذا المعيار نوعًا من «بطاقة تعريف رقمية» للملفات الإعلامية.
بدلاً من وضع شعار مرئي على الصورة، يقوم C2PA بتسجيل معلومات متعلقة بمصدر المحتوى والتغييرات التي أُجريت عليه على شكل بيانات مشفّرة.
يمكن أن تتضمن هذه المعلومات تفاصيل حول كيفية إنشاء المحتوى، والتعديلات التي أُجريت، والجهاز أو البرنامج المستخدم، والعلاقة بين النسخ المختلفة من الملف. وتُوقّع البيانات رقميًا لتمكين التحقق من صحتها وكشف التلاعب المحتمل.
تستخدم OpenAI هذا النهج أيضًا في الصور المنتجة بأدواتها وتوظف بيانات C2PA بجانب علامة SynthID.
مع ذلك، فإن C2PA ليس منيعا عن الإزالة. على سبيل المثال، تحرير الملف أو حتى أخذ لقطة شاشة قد يُحذف المعلومات المتعلقة بمصدره. في مثل هذه الحالات، قد تظل العلامة المضمّنة قادرة على تقديم معلومات عن مصدر المحتوى.
ماذا لو أُزيلت كل العلامات؟
هنا يتضح أحد أهم قيود تقنيات كشف محتوى الذكاء الاصطناعي: غياب العلامة المائية أو بيانات المصدر وحده لا يثبت أن المحتوى قد أُنتج بواسطة إنسان.
إذا كان نظام ما قادرًا على تحديد علامة SynthID، فيمكن اعتبار ذلك دليلًا قويًا على أن المحتوى مر عبر أداة مجهزة بهذه التقنية. لكن إذا لم تُعثر على علامة مائية، فلا يمكن استنتاج أن المحتوى بالضرورة بشري.
قد تكون بيانات المصدر قد حُذفت، أو تكون العلامة المائية قد تضررت أثناء التحرير، أو أن المحتوى أصلاً أُنتج بأداة لا تدعم مثل هذه التقنيات.
لهذا السبب، لا ينبغي أن تُستخدم أدوات كشف الذكاء الاصطناعي كدليل قاطع؛ بل من الأفضل أن تكون جزءًا من عملية متعددة الطبقات للتحقق من أصالة المحتوى.
علامة مائية غير مرئية للنصوص قيد التطوير أيضًا
التحدي في اكتشاف المحتوى الصناعي لا يقتصر على الصور والفيديو. النص المنتج بالذكاء الاصطناعي أصبح أيضًا مجالًا مهمًا للمنافسة بين شركات التكنولوجيا والباحثين.
أعلنت شركة Anthropic أن نماذج Claude المستقبلية ستستخدم نوعًا من العلامات المائية غير الملموسة في النص.
تعمل هذه الطريقة على أساس اختيار الكلمات بواسطة النموذج. عندما تكون عدة كلمات من حيث المعنى خيارات مناسبة لاستكمال الجملة، يمكن للنموذج أن يوجّه الاختيار بينها بطريقة تُنشئ نمطًا إحصائيًا معينًا في النص.
هذا النمط غير مرئي للقارئ العادي، لكن نظامًا يمتلك مفتاح الكشف يمكنه فحص احتمال توليد النص بواسطة النموذج.
مع ذلك، اعترفت Anthropic أيضًا بقيود هذه الطريقة. إعادة صياغة النص بالكامل قد تُزيل العلامة المائية، بينما قد لا تُفقد التعديلات الجزئية أثرها تمامًا.
من ناحية أخرى، قد يزيد اكتشاف مثل هذا النمط فقط من احتمال دور Claude في إنشاء النص أو تحريره ولا يحدد بالضرورة من هو الشخص الذي أنشأ المحتوى أو من يملك حقوقه.
عندما يذهب الأمر إلى تحليل المحتوى نفسه
إذا لم تكن العلامة المائية وبيانات المصدر متاحة، يبقى خيار آخر: تحليل المحتوى نفسه.
تحاول أدوات الكشف التقليدية للذكاء الاصطناعي تحديد أنماط إحصائية وسمات قد تظهر أكثر في المحتوى المنشأ بواسطة النماذج.
في النص، قد يشمل ذلك فحص أنماط اللغة، وبنية الجمل، واختيار المفردات وسمات الأسلوب. وفي الصورة والفيديو والصوت يمكن للخوارزميات البحث عن أنماط إحصائية أو سمات فنية خاصة.
لكن هذا النهج يختلف جوهريًا عن العلامة المائية. ففي العلامة المائية، يضع منشئ النموذج منذ البداية علامة قابلة للاكتشاف داخل المحتوى؛ أما في تحليل المحتوى فالنظام يحاول استنتاج مصدر المحتوى من خصائصه الذاتية.
لذلك، فإن احتمال الخطأ في هذه الطريقة أكبر ويجب أن تُجمع نتائجها مع أدلة أخرى.
منافسة دائمة بين المنتجين والكاشفين
مع تقدم تقنيات الكشف، تتطور أيضًا طرق التحايل عليها.
أظهرت أبحاث مختلفة أنه في بعض الحالات يمكن بإجراء تغييرات محددة إضعاف أو إزالة العلامات المائية في المحتوى المنتج بالذكاء الاصطناعي، دون أن يتغير المظهر العام للمحتوى بشكل ملحوظ.
هذا يخلق نوعًا من المنافسة التقنية: من جهة تحاول الشركات والباحثون تصميم علامات مائية أكثر مقاومة، ومن جهة أخرى يسعى الباحثون إلى إيجاد طرق لكشف أو التحايل على هذه العلامات.
نتيجة لذلك، من غير المحتمل أن يكون الاعتماد على تقنية واحدة كافياً لإيجاد طريقة موثوقة نهائية لتحديد كل المحتوى المنتج بالذكاء الاصطناعي.
مستقبل كشف المحتوى؛ مزيج من عدة طبقات
الحل الأكثر واقعية هو استخدام طبقات تحقق متعددة في آن واحد. يمكن أن تكون العلامة المائية غير المرئية طبقة من هذا النظام، بينما توفر بيانات C2PA، وسجلات مصدر الملف، وتاريخ التحرير، وتحليل المحتوى نفسه، والبحث عن النسخة الأصلية معلومات تكميلية.
في مثل هذا النموذج، لن يكون السؤال الرئيسي فقط «هل لدى هذه الصورة علامة مائية أم لا؟»، بل السؤال الأهم سيكون من أين أتى هذا المحتوى وما التغييرات التي طُبّقت عليه منذ إنشائه؟
صُمم معيار C2PA بالذات لهذا الهدف: تسجيل سجل إنشاء وتعديل المحتوى في شكل معلومات يمكن التحقق منها. وتضيف تقنيات مثل SynthID طبقة إضافية يمكنها أن تترك علامة داخل المحتوى ذاته حتى لو فُقدت بعض البيانات الخارجية.
في النهاية، سيصبح كشف المحتوى الصناعي على الأرجح أكثر شبهاً بتحقيق رقمي منه بالاعتماد على العثور على «علامة» واحدة؛ عملية تُجمع فيها مجموعة من الأدلة الفنية لتحديد مصدر صورة أو فيديو أو نص.
مع ازدياد قدرة نماذج الذكاء الاصطناعي على إنتاج محتوى لا يختلف عن العينات الحقيقية، سيصبح التحقق من المصدر واستخدام البصمة الرقمية أحد عناصر التحقق من مصداقية المعلومات على الإنترنت.