شركة OpenAI من خلال إضافة آلية جديدة تشدد الرقابة على استخدام المراهقين لخدمة ChatGPT. بموجب هذه الآلية، إذا تم تعليق حساب مراهق بسبب انتهاك سياسات الشركة المتعلقة بالتهديدات العنيفة أو ارتكاب أعمال عنيفة، يمكن لوالديه أن يُبلغوا بذلك.
هذه الخطوة جزء من توسيع أدوات الرقابة الأبوية في ChatGPT وتهدف إلى توفير إمكانية أكبر للأسر كي تتدخل إذا لاحظت علامات قد تعرض المراهق أو الآخرين للخطر.
إعلام الوالدين
بموجب النظام الجديد، قد يتلقى الآباء الذين ربطوا حسابهم بحساب ابنهم المراهق إشعاراً من OpenAI في حال تم تعليق حساب المراهق بسبب أنشطة عنيفة.
شرحت OpenAI أن هذا الإشعار قد يتضمن تحذيراً بشأن تحديث مهم مرتبط بحساب المراهق. يمكن للوالدين باختيار الخيار المعني مشاهدة مزيد من التفاصيل؛ بما في ذلك ما إذا كان الحساب قد تم تعطيله بسبب انتهاك سياسات الشركة المتعلقة بالسلوكيات العنيفة أم لا.
مع ذلك، أكدت OpenAI أن هذه التحذيرات مصممة لتكون محدودة ودقيقة ولا تستهدف المحادثات المتعلقة بكتابة القصص أو اللعب أو الأخبار أو السياسة أو التعبير عن غضب عام أو الأسئلة النظرية.
توسيع أدوات الرقابة الأبوية
سبق لـ OpenAI أن أطلقت أدوات للرقابة الأبوية في ChatGPT. تتيح هذه الأدوات للوالدين ربط حسابهم بحساب ابنهم المراهق وإدارة مجموعة من الإعدادات المتعلقة بكيفية استخدام ChatGPT.
من بين إمكانيات هذا القسم يمكن تحديد ساعات لا يتاح فيها ChatGPT للمراهق، تقييد المحتوى الحساس، تعطيل ميزة الصوت أو الذاكرة، منع إنتاج الصور ومنع استخدام محادثات المراهق لتدريب النموذج.
كما يمكن للوالدين تفعيل وضع الدراسة مباشرة عبر إعدادات الرقابة الأبوية. هذه الميزة بدلاً من تقديم إجابة نهائية، تساعد عملية التعلم لدى المراهق من خلال تقديم نقاط وإرشادات.
حماية الآخرين
أهمية هذه الخطوة ازدادت مع تزايد المخاوف بشأن كيفية تعامل أنظمة الذكاء الاصطناعي مع المحتوى العنيف.
أعلنت OpenAI أنها بعد إثارة جدل حول استخدام أحد المشتبه بهم في حادث إطلاق نار جماعي في Tumbler Ridge بكندا لـ ChatGPT، عززت بروتوكولات الأمان الخاصة بها. كما واجهت الشركة انتقادات حول كيفية إدارة الحساب قبل وقوع الهجوم.
وفقاً للشركة، هدف إطلاق النظام الجديد هو منح العائلات فرصة للتدخل في الوقت المناسب إذا لاحظت علامات خطرة، بدلاً من الاكتفاء بتعطيل الحساب فقط.
جزء من نظام حماية أوسع
إجراءات OpenAI لا تقتصر على مواجهة المحتوى العنيف فقط. يشمل نظام الرقابة الأبوية أيضاً تحذيرات بشأن علامات قد تدل على أن مراهقاً معرض لإيذاء نفسه.
في الحالات التي تكشف فيها الأنظمة عن علامات اضطراب حاد، توجد إمكانية للتواصل مع الوالدين أيضاً. تؤكد OpenAI أن هذه الأدوات ليست بديلاً عن إشراف الوالدين وتدخلهم، بل صممت لتوفير أدوات إضافية لفهم كيفية استخدام المراهقين للذكاء الاصطناعي والمساعدة في التدخل عند الضرورة.