الأتمتة سلاح TikTok لإزالة فيديوهات العري والعنف

سيستخدم تيك توك TikTok الأتمتة لاكتشاف وإزالة العديد من مقاطع الفيديو التي تنتهك سياساتها.

 

على مدار العام الماضي، كانت الخدمة تختبر وتعدل الأنظمة للعثور على مثل هذا المحتوى وإزالته، وستطرح هذه الأنظمة في الولايات المتحدة وكندا خلال الأسابيع القليلة المقبلة.

 

في البداية ستبحث الخوارزميات عن المشاركات التي تنتهك السياسات المتعلقة بسلامة القاصرين والعنف والمحتوى الرسومي والعُري والجنس والنشاط غير القانوني والسلع الخاضعة للتنظيم، إذا اكتشفت الأنظمة انتهاكًا، فسيتم سحب الفيديو على الفور ويمكن للمستخدم الذي نشره الاستئناف، لا يزال بإمكان المستخدمين الإبلاغ عن مقاطع الفيديو للمراجعة اليدوية أيضًا.

 

قال TikTok إن المراجعات الآلية ستكون مخصصة لفئات المحتوى حيث تتمتع تقنيتنا بأعلى درجات الدقة، واحد فقط من كل 20 مقطع فيديو تمت إزالته تلقائيًا كانت إيجابية كاذبة وكان يجب أن تبقى على المنصة.

 

يأمل TikTok في تحسين مستويات دقة الخوارزميات ويلاحظ أن طلبات استئناف إزالة مقطع فيديو ظلت ثابتة.

 

يقول TikTok إن الأتمتة يجب أن تحرر موظفي السلامة لديها للتركيز على المحتوى الذي يتطلب نهجًا أكثر دقة، بما في ذلك مقاطع الفيديو التي تحتوي على التنمر والتحرش والمعلومات المضللة وخطاب الكراهية.

 

بشكل حاسم، يمكن أن تقلل الأنظمة من عدد مقاطع الفيديو التي يحتمل أن تكون مؤلمة والتي يتعين على فريق السلامة مشاهدتها، مثل تلك التي تحتوي على عنف شديد أو استغلال للأطفال، تم اتهام Facebook، على سبيل المثال، بعدم القيام بما يكفي لحماية الرفاهية والصحة العقلية لمشرفي المحتوى المكلفين بمراجعة المحتوى المثير للقلق في كثير من الأحيان.

 

يقوم TikTok بتغيير كيفية إخطار المستخدمين بعد اكتشافهم يخالفون القواعد، تتعقب المنصة الآن عدد الانتهاكات وخطورتها وتواترها، سيرى المستخدمون تفاصيل حول تلك الموجودة في قسم تحديثات الحساب في صندوق الوارد الخاصة بهم، يمكنهم أيضًا عرض معلومات حول عواقب أفعالهم، مثل المدة التي تم تعليقهم فيها عن النشر أو التفاعل مع محتوى أي شخص آخر.

لمزيد من أخبار قسم التكنولوجيا تابع alwafd.news