اتهم المدعي العام في نيويورك تيك توك بأنه خلال تجاربه قدم لآلاف المستخدمين بمن فيهم الأطفال والمراهقون نسخة معطلة من بعض ميزات الأمان؛ بمعنى أن المستخدمين ظنوا أنهم قد فعّلوا أدوات الحماية، في حين أن هذه الميزات لم تُحدث فعلياً أي تغيير في تجربة الاستخدام لديهم.
بموجب المزاعم الواردة في دعوى قضائية خرجت حديثاً من السرية، كانت إحدى هذه الميزات تسمى Algo Refresh. هذه الأداة تسمح للمستخدمين بإعادة ضبط توصيات خوارزمية تيك توك بحيث يبتعد موجز الفيديوهات المقترحة لديهم عن المحتوى غير المرغوب أو المحتمل أن يكون ضاراً.
ولكن وفقاً لتلك الدعوى، بعض المستخدمين المشاركين في التجربة تلقوا بدلاً من النسخة الحقيقية نسخة أُطلق عليها اسم «شبح» أو دواء وهمي. في هذه الحالة، كان المستخدم يظن أنه فعّل Algo Refresh، لكن موجز توصياته لم يتغير عملياً. بالمقابل، المستخدمون الذين لم يكونوا ضمن مجموعة الاختبار كان لديهم وصول إلى النسخة الحقيقية والفعالة من هذه الميزة.
التجربة شملت آلاف المستخدمين من الأطفال والمراهقين
تقول شكوى نيويورك إن تيك توك استخدمت هذه التجارب لفحص تأثير ميزات الأمان على سلوك المستخدمين، ومدى بقائهم على المنصة والإيرادات الإعلانية.
بموجب ادعاءات الدعوى، شملت التجارب آلاف المستخدمين وكان بينهم أطفال ومراهقون. بل زُعم أن أحد مديري المنتج في تيك توك أعرب عن مخاوف بشأن الطبيعة المضللة لتجارب الدواء الوهمي، لكن هذه التحذيرات تم تجاهلها.
وتتهم الدعوى أيضاً تيك توك بتقديم معلومات مضللة للمستخدمين حول كيفية عمل Algo Refresh وبأنها في بعض التجارب عطّلت ميزات الأمان عشوائياً لفرقة من المستخدمين.
هذه الاتهامات ذات أهمية خاصة، لأن Algo Refresh صممت من البداية بهدف تغيير المحتوى المقترح للمستخدمين. لذلك، إذا كانت نسخة من هذه الميزة معطلة دون علم المستخدم، قد يظن المستخدم أن خوارزمية الاقتراح قد تغيرت، بينما في الواقع كان يتلقى نفس النوع من المحتوى.
صلة التجارب بالمحتوى الضار
في أحد أخطر أجزاء الدعوى، أشارت نيويورك إلى حالة مراهق تعرض لكمية كبيرة من المحتوى المتعلق بإيذاء النفس ثم توفي نتيجة انتحار. تطرح النيابة هذا الأمر في سياق مزاعمها حول كيفية عمل الخوارزمية وتجارب الأمان في تيك توك. هذه المزاعم ستُراجع وتُثبَت في المحكمة ولا تعني إثبات مسؤولية تيك توك عن هذا الموت.
بحسب تقرير Techcrunch، تُرفع هذه القضية في وقت تواجه فيه تيك توك موجة واسعة من الدعاوى القضائية حول تأثير المنصة على الأطفال والمراهقين. أكثر من عشرين ولاية أميركية اتهمت الشركة بأنها صممت منصتها بطريقة تزيد من الاستخدام الإدماني بين المستخدمين قُصَّر السن وأنها في الوقت ذاته قدمت معلومات مضللة حول إجراءاتها الأمنية.
رد تيك توك: الميزات تُختبر باستمرار
قالت تيك توك رداً على تقرير رويترز إن الشركة تعمل باستمرار على تحسين منصتها وكما تفعل العديد من شركات التكنولوجيا تختبر منتجات وميزات جديدة لتقييم أدائها في العالم الحقيقي.
وأكدت الشركة أن سلامة المستخدمين، لا سيما المستخدمين القُصَّر، لا تزال من أولوياتها. ولم تصدر تيك توك رداً منفصلاً حول التفاصيل الواردة في دعوى نيويورك حتى نشر التقرير.
سبق وأن طُرحت مزاعم حول تجارب سرية لتيك توك من قبل. ذكرت بلومبرغ في يونيو أن تيك توك في تجربة أخرى أخفت ميزة أمان عن نحو 15 مليون مستخدم أميركي. وفق ذلك التقرير، كان أحد المستخدمين المتأثرين بهذه التجربة مراهقاً توفي لاحقاً بانتحار.
نتيجة لذلك، قد تكون قضية نيويورك واحدة من أخطر التحديات القانونية التي تواجه تيك توك بشأن كيفية اختبار ميزات الأمان؛ لا سيما إذا قررت المحكمة أن المستخدمين، دون علمهم بأن الميزة كانت تجربة، كانوا يظنون أن أدوات الحماية فعلاً قد فُعِّلت في حساباتهم.