وفقًا لأول تقرير لـ OpenAI حول نمط استخدام المراهقين لـ ChatGPT، يتفاعل هذه الفئة بمعدل أقل من ١٥ دقيقة يوميًا مع هذه الشات بوت، وأقل من ٢٪ منهم يستخدمونه لأكثر من ثلاث ساعات متواصلة. نُشِرَت هذه الإحصاءات في وقت تزايدت فيه المخاوف بشأن تأثير شات بوتات الذكاء الاصطناعي على الصحة النفسية وسلامة المستخدمين المراهقين.
مع توسع استخدام الذكاء الاصطناعي في التعليم والأنشطة اليومية، تواجه شركات تطوير هذه التكنولوجيا تحديًا مهمًا: كيف يمكن إتاحة القدرات التعليمية والتطبيقية للشات بوتات للمراهقين وفي الوقت نفسه تقليل المخاطر المحتملة من استخدامها؟
أدوات مخصصة لمراهقي ChatGPT
بدأت OpenAI في أغسطس الماضي اختبار نسخة مخصصة من ChatGPT للمستخدمين المراهقين. تهدف هذه النسخة إلى زيادة أمان المستخدمين الشباب، وتوفر إجراءات وقائية أكثر ضد المحتوى الحساس، وبجانب ذلك تضع بين أيديهم قدرات تعليمية مختلفة.
من بين هذه الإمكانات يمكن الإشارة إلى وضع الدراسة الذي بدلاً من تقديم إجابة مباشرة، يقدّم إرشادات خطوة بخطوة للتعلّم للمستخدم. كما أن إنشاء بطاقات مراجعة (فلاش كارد)، وتصميم اختبارات، والمساعدة في التخطيط لطلبات القبول الجامعي هي من التطبيقات التعليمية الأخرى لهذه الأدوات.
أحد الميزات الأخرى المخصصة للمراهقين هو إرسال تذكير للاستراحة عند الاستخدام الطويل للشات بوت. وفقًا لتقرير OpenAI، فإن نحو نصف المحادثات التي عُرض فيها تذكير بالاستراحة انتهت أو توقفت خلال الخمس دقائق التالية.
تشير هذه الإحصاءات إلى أن التذكيرات القصيرة قد تساعد في بعض الحالات على إيقاف استخدام الشات بوت؛ مع ذلك لا يمكن استنتاج بمفردها أن هذه الميزة ستؤدي على المدى الطويل إلى تقليل الإفراط في الاستخدام أو تحسين الصحة النفسية للمراهقين.
مراقبة الوالدين وتحذير عند المواقف الخطرة
قدمت OpenAI أيضًا أدوات لمراقبة الوالدين تتيح للعائلات ربط حساب المراهق بحسابهم وإدارة بعض الإعدادات المتعلقة باستخدام الخدمة.
صُممت هذه الآليات لزيادة إشراف الوالدين والتعرّف على المواقف الحساسة. من بين الأمور محل الاهتمام، علامات الانتحار المحتملة، وإيذاء النفس، واضطرابات الأكل؛ وهي مواضيع لها أهمية خاصة في نقاش سلامة شات بوتات الذكاء الاصطناعي للمستخدمين القُصَّر.
ومع ذلك، وجود أدوات وقائية لا يعني بالضرورة أنها تعمل بلا أخطاء. تعتمد فعالية مثل هذه الميزات على كيفية اكتشاف المواقف الخطرة، ومتى تُرسل التحذيرات، وظروف تفعيل إعدادات الحساب.
انتقاد Common Sense Media لأداء الإجراءات الوقائية
من جهتها، انتقدت مؤسسة Common Sense Media جوانب من أداء هذه الإجراءات الوقائية. بعد مراجعتها لأكثر من أربعة آلاف حالة تجريبية، شككت المؤسسة في أداء بعض آليات الحماية وأعلنت أن كل الميزات لم تؤدِّ كما هو متوقع في جميع الحالات.
بناءً على النتائج المعروضة في هذا التقييم، في بعض الحالات المتعلقة بعلامات الانتحار أو إيذاء النفس واضطرابات الأكل، لم يُرسَل التحذير المتوقَّع إلى الوالدين. كما أن بعض القدرات التعليمية قد تعمل في مواقف معينة، بما في ذلك أثناء إجراء الاختبارات، بطريقة مختلفة عن المتوقع.
تُبرز هذه الانتقادات أحد الصعوبات الرئيسية في تصميم شات بوتات الذكاء الاصطناعي: يجب أن يكون النظام قادرًا على التمييز بين المحادثات العادية، والطلبات التعليمية، وعلامات الأزمة المحتملة؛ وهو أمر ليس سهلاً في كل الحالات.
رد OpenAI على الانتقادات
ردت OpenAI على هذه الانتقادات موضّحة أن بعض الاختبارات قد لا تعكس أداء الأدوات الوقائية في العالم الحقيقي عندما تكون هذه الميزات مفعّلة بالكامل.
كما أشارت الشركة إلى أنه بعد ربط حساب المراهق بحساب الوالدين، قد يستغرق توافر بعض التحذيرات عدة ساعات. يمكن أن يكون مثل هذا التأخير مهمًا عند تقييم أداء أنظمة المراقبة، خصوصًا عندما يتعلق الأمر بالتعرّف على المواقف الحساسة.
وبحسب تقرير ايتنا، فإن إحصاءات مدة استخدام المراهقين لـ ChatGPT إلى جانب اختلاف الرأي حول أداء أدوات الحماية تُظهر أن تقييم أمان الذكاء الاصطناعي لا يمكن أن يقتصر على فحص مقدار استخدام المستخدمين فقط. فمراجعة جودة الإجابات، وأداء أنظمة الكشف عن الخطر، ودرجة فاعلية أدوات إشراف الوالدين تلعب دورًا مهمًا أيضًا في هذا التقييم.
في النهاية، لا يقتصر تحدي OpenAI على تطوير القدرات التعليمية فحسب؛ بل يجب على الشركة أن تبين إلى أي مدى يمكن الاعتماد على أدواتها الوقائية في المواقف الحساسة. مع تزايد وجود الذكاء الاصطناعي في حياة المراهقين، قد يكتسب التقييم المستقل لأداء هذه الأدوات والشفافية بشأن محدودياتها أهمية أكبر بالنسبة للعائلات والمدارس وصانعي السياسات.