تتجه منصة تيك توك إلى زيادة تمكين أدوات الكشف الآلي لانتهاكات السياسة من خلال عملية جديدة تزيل المحتوى الذي تكتشف أنه ينتهك السياسة عند التحميل، مما يضمن عدم رؤيته من قبل أي شخص.
وكجزء من عملية التحميل في الوقت الحالي، تمر جميع مقاطع الفيديو عبر نظام فحص آلي، الذي يعمل على تحديد انتهاكات السياسة المحتملة لمزيد من المراجعة من قبل أحد أعضاء فريق الإشراف.
بعد ذلك، يخبر عضو فريق الإشراف المستخدم إذا تم اكتشاف انتهاك. لكن على مقياس تيك توك، فإن ذلك يترك مجالاً للخطأ قبل اكتمال المراجعة. وتعمل المنصة الآن على تحسين هذا الأمر، وتريد ضمان عدم وصول المواد التي يحتمل أن تكون مخالفة إلى أي مشاهدين.
المحتوى المخالف
وقالت: “نبدأ خلال الأسابيع القليلة المقبلة في استخدام التكنولوجيا لإزالة بعض أنواع المحتوى المخالف الذي تم تحديده عند التحميل تلقائياً، بالإضافة إلى عمليات الإزالة التي أكدها فريق الأمان لدينا. ويتم الاحتفاظ بالأتمتة لفئات المحتوى حيث تتمتع تقنيتنا بأعلى درجة من الدقة”.
وبدلاً من السماح بمرور الانتهاكات المحتملة، يمنع نظام تيك توك الآن تحميلها، مما قد يساعد في الحد من مشاهدتها.
إلى ذلك قد تسبب هذه العملية بعض القلق لصناع المحتوى. غير أن تيك توك أكدت أن أنظمتها للكشف أثبتت دقة عالية. وقالت: “وجدنا أن المعدل الإيجابي الخطأ لعمليات الإزالة التلقائية هو 5%. وظلت طلبات تقديم التماس بشأن إزالة الفيديو ثابتة. ونأمل أن نواصل تحسين دقتنا بمرور الوقت”.
تحسين الشفافية
وبالإضافة إلى تحسين التجربة العامة عبر تيك توك، تأمل المنصة أن يدعم هذا التحديث أيضاً المرونة داخل فريق الأمان لديها من خلال تقليل حجم مقاطع الفيديو المزعجة التي يشاهدها المشرفون وتمكينهم من قضاء المزيد من الوقت في مجالات سياقية ودقيقة للغاية.
كما تطرح المنصة عرضاً جديداً لانتهاكات الحساب والتقارير من أجل تحسين الشفافية، مما يمنع المستخدمين من تجاوز الحدود.
ويعرض النظام الجديد الانتهاكات التي تراكمت من قبل كل مستخدم، بينما يرى أيضاً تحذيرات جديدة معروضة في مناطق مختلفة من التطبيق كتذكيرات له.
الحظر الكامل
يشار إلى أن العقوبات المفروضة على مثل هذه التحذيرات الأولية تتصاعد إلى الحظر الكامل، بناءً على المشكلات المتكررة. بينما بالنسبة للمشكلات الأكثر خطورة، فإن تيك توك تزيل الحسابات تلقائياً. كما يمكنها أيضاً حظر الجهاز لمنع الحسابات المستقبلية. وتمثل هذه تدابير مهمة، لا سيما بالنظر إلى قاعدة مستخدمي المنصة الشباب.
وأظهرت البيانات الداخلية التي نشرتها صحيفة نيويورك تايمز العام الماضي أن نحو ثلث قاعدة مستخدمي المنصة تبلغ أعمارهم 14 عاماً أو أقل، مما يعني أن هناك خطراً كبيراً قد يواجه الصغار داخل التطبيق.
كما واجهت المنصة العديد من التحقيقات على هذه الجبهة، بما في ذلك الحظر المؤقت في بعض المناطق بسبب محتواها.
