حاكم كاليفورنيا غافين نيوسام وقع ١٣ قانوناً جديداً تركز على حماية الأطفال من مخاطر التكنولوجيا.
هذه الحزمة تستهدف إلى جانب شبكات التواصل الاجتماعي، روبوتات الدردشة المدعومة بالذكاء الاصطناعي، الألعاب المزوَّدة بالذكاء الاصطناعي والمحتوى الجنسي المنتج بواسطة الذكاء الاصطناعي.
وفقاً لتقرير إيتنا، الجزء الأهم من هذه الحزمة التشريعية يمنع شبكات التواصل الاجتماعي من عرض بعض الميزات المسماة «استغلالية نفسياً» للمستخدمين دون ١٦ سنة. ميزات مثل التمرير اللامتناهي (Infinite Scroll) والتشغيل التلقائي الخوارزمي للمحتوى (Autoplay) هي من بين الخصائص التي يستهدفها القانون الجديد لهذه الفئة العمرية.
هدف هذا القانون هو مواجهة التصميمات التي تدفع المستخدم إلى استخدام قسري وطويل الأمد للمنصة عبر زيادة التفاعل المستمر.
هذا النهج يمثل تحولاً مهماً في سياسة التقنية؛ لأن المشرعين لم يعودوا يعتبرون المحتوى غير المناسب المشكلة الوحيدة، بل باتوا يعتبرون بنية وتصميم المنتج نفسه جزءاً من مخاطر التكنولوجيا.
جزء مهم آخر من هذه الحزمة هو اللوائح المتعلقة بروبوتات الدردشة المدعومة بالذكاء الاصطناعي.
بموجب القوانين الجديدة، يجب على الشركات المقدمة لروبوتات الدردشة اتخاذ تدابير أمان خاصة للمستخدمين القاصرين وإجراء تقييمات مخاطر وآليات رقابية محددة.
بعض هذه اللوائح تشمل ضوابط rodzية، تقييمات السلامة وآليات للاستجابة في حالات الطوارئ.
أحد هذه القوانين سمي «قانون آدم» تذكاراً لآدم راين، المراهق البالغ من العمر ١٦ سنة الذي توفي بعد تفاعله مع ChatGPT. هذا القانون يحاول تحميل مزودي روبوتات الدردشة مسؤولية أكبر ويلزمهم بإنشاء بروتوكولات أمان للمواقف الحساسة.
كما حظرت كاليفورنيا إنتاج وبيع الألعاب المزوَّدة بروبوتات دردشة مدعومة بالذكاء الاصطناعي لمدة أربع سنوات.
قلق المشرعين هو أن مثل هذه المنتجات قد تتفاعل مع الأطفال دون إشراف كافٍ أو تجمع بيانات عنهم.
القوانين الجديدة في مجال المحتوى الجنسي المنتج بالذكاء الاصطناعي أيضاً زادت من التشدد.
بموجب أحد القرارات، تم توسيع نطاق العقوبات الجنائية المتعلقة بمحتوى الإساءة الجنسية للأطفال ليشمل الصور المعدَّلة أو المنتجة بالذكاء الاصطناعي التي تُظهر أشخاصاً دون ١٨ سنة في وضعيات جنسية.
تتضح أهمية هذه الحزمة التشريعية أكثر عندما نعرف أن شركات التكنولوجيا واجهت في الأشهر الأخيرة ضغوطاً متزايدة بشأن آثار منتجاتها على الصحة النفسية للأطفال. على سبيل المثال، توصلت شركة ميتا حديثاً إلى تسويات مع ولايات أمريكية في قضايا تتعلق بإدمانية منصاتها تصل إلى ١٨ مليار دولار ووافقت على فرض قيود إضافية على كيفية استخدام المراهقين لخدماتها.
وفق ما كتبت nbcnews، هذه القوانين لها معارضون أيضاً. مجموعات الدفاع عن الحقوق الرقمية حذرت من أن القيود الواسعة قد تضر بالخصوصية وحرية التعبير ووصول المراهقين إلى المجتمعات الإلكترونية؛ لا سيما إذا أدى تنفيذ القوانين إلى آليات واسعة للتحقق من العمر أو إلى جمع المزيد من البيانات عن المستخدمين.
مع ذلك، يُظهر تحرك كاليفورنيا أن تنظيم التكنولوجيا في الولايات المتحدة دخل مرحلة جديدة؛ مرحلة تصبح فيها شركات التكنولوجيا ليست فقط مسؤولة عن محتوى منصاتها، بل أيضاً عن تصميم الخوارزميات والميزات التفاعلية وطريقة عمل منتجات الذكاء الاصطناعي بمسؤولية قانونية أكبر.