خوارزميات تيك توك متهمة بتعرض المراهقين لمحتوى ضار

دافعت منصة مشاركة الفيديو TikTok عن سياسات السلامة الخاصة بها وسط مزاعم بأن الخوارزميات التي تستخدمها تعرض المراهقين لمحتوى ضار.

كشف تحقيق حديث أجرته قناة RTÉ's Prime Time أن المستخدمين المحتملين الذين يبلغون من العمر 13 عامًا عُرضوا بسرعة مقاطع فيديو تتعلق بإيذاء النفس والانتحار.

وقالت TikTok إنها أكملت "مراجعة عاجلة" للمسألة.

 قال مورجان إيفانز، مدير اتصالات الشركات والسياسة في TikTok: "فيما يتعلق بالتحقيق في [Prime Time]، كما قلنا في ذلك الوقت، لا نعتقد أن هذا بالضرورة هو تصوير واقعي لكيفية تجربة الأشخاص للتطبيق" .

أضاف: "ومع ذلك، بمجرد لفت انتباهنا إلى بعض هذا المحتوى، قمنا بمراجعة شاملة. واتخذنا إجراءات ضد أي محتوى لا ينبغي أن يكون موجودًا أو لا ينبغي أن يظهر في خلاصات المراهقين."

قال إيفانز: "لقد بحثنا بشكل أكبر في التقنيات والتقنيات المختلفة التي يمكننا نشرها لتوزيع أنواع المحتوى بشكل فعال والتي قد تكون مشكلة أو ضارة عند عرضها في مجموعات كبيرة".

وردا على سؤال عما إذا كان "التشتيت" يعني تغيير الخوارزمية بحيث يظهر محتوى مختلف في الخلاصات، أجاب مورجان: "سيغير ذلك تجربة المستخدم، صحيح.

تابع: "الفكرة بأكملها هي أننا نريد التأكد من أنه حيثما يوجد محتوى قد يكون ضارًا، فإننا نقوم بتوزيع الخلاصات بشكل كافٍ بحيث لا يتم عرض أي محتوى قد يمثل مشكلة لجمهور معين في مجموعة كبيرة معًا."

أنظمة التوصية

أنظمة التوصية هي خوارزميات تحدد ما يراه مستخدمو وسائل التواصل الاجتماعي، بناءً على البيانات الشخصية مثل سجل البحث والمشتريات السابقة والعمر والموقع.

حذرت مجموعات الحملات والباحثون من أن هذه الخوارزميات يمكن أن تكون "سامة" وغالبًا ما تؤدي إلى ظهور محتوى غير لائق في خلاصات المستخدمين التي تروج لأشياء مثل الكراهية والتطرف واضطرابات الأكل وإيذاء النفس.

تم عقد مشاورات حول تضمين خطة سلامة نظام التوصية في قانون السلامة عبر الإنترنت الجديد في أيرلندا، لكن هذا لم يظهر في مسودة النسخة المحدثة من القانون التي تم نشرها بالأمس.

قالت هيئة تنظيم وسائل الإعلام، Coimisiún na Meán، إنها ستتعامل بدلاً من ذلك مع مسألة الخوارزميات من خلال تنفيذها لمجموعة قواعد السلامة عبر الإنترنت الخاصة بالاتحاد الأوروبي والمعروفة باسم قانون الخدمات الرقمية (DSA).

أمن الانتخابات

انتقلت TikTok مؤخرًا إلى مبنى جديد في دبلن حيث تم إنشاء "مركز التحكم في المهام" قبل الانتخابات المحلية والأوروبية المقبلة.

تقوم فرق مخصصة بمراقبة النظام الأساسي بحثًا عن محتوى مثل المعلومات الخاطئة والمعلومات المضللة ومقاطع الفيديو "المزيفة العميقة" التي ينشئها الذكاء الاصطناعي.

وقال إيفانز: "تلعب دبلن دورًا حاسمًا في العمل الذي نقوم به لحماية مجتمعنا".

"لقد جمعنا الكثير من الأشخاص في مكان مماثل في الفترة التي سبقت الانتخابات وأثناءها للتأكد من أننا نعزز مستوى التعاون، والتأكد من أن فرقنا هي الأكثر مهارة في تحديد أي مخاطر ناشئة. قال السيد إيفانز: "والاستجابة حقًا لتلك العينية".

وأضاف: "لقد استثمرنا بشكل كبير في جهودنا فيما يتعلق بنزاهة الانتخابات، حتى خارج الانتخابات الأوروبية. لدينا أكثر من 6000 مشرف محتوى يدعمون جهودنا في الإشراف على المحتوى، في جميع أنحاء أوروبا".

العملية الأيرلندية

توظف TikTok حوالي 3000 شخص في أيرلندا. أثرت تخفيضات الوظائف العالمية الأخيرة في الشركة على بعض الفرق الموجودة في أيرلندا، لكن TikTok قالت إنها تواصل التوظيف في هذا البلد.

وسوف تفتتح مبنى مكتبيًا ثانيًا في دبلن في وقت لاحق من هذا العام بالقرب من مبنى "مكتب الفرز" الذي بدأت العمل منه مؤخرًا.

مقر تيك توك

وتلعب أيرلندا أيضًا دورًا مركزيًا في جهود الشركة لطمأنة المنظمين الأوروبيين بأن بيانات المستخدم آمنة.

"Project Clover" هي خطة أمان بيانات TikTok وتتضمن تخزين معلومات المستخدم الأوروبي في مراكز البيانات في أيرلندا والنرويج.

واجه تطبيق مشاركة الفيديو المملوك للصين تدقيقًا بشأن مدى وصول الصين إلى بيانات المستخدم.

في أبريل 2023، أصدر المركز الوطني للأمن السيبراني (NCSC) إرشادات ينصح فيها إدارات الحكومة الأيرلندية والهيئات الحكومية بعدم استخدام التطبيق على الأجهزة الرسمية.

كما قامت حكومتا الولايات المتحدة والمملكة المتحدة، وكذلك مؤسسات الاتحاد الأوروبي، بحظر المنصة على أجهزة الموظفين بسبب مخاوف تتعلق بالأمن السيبراني.

ووصفت TikTok الحظر الحكومي بأنه مضلل.

قال إيفانز: "أعتقد أن الكثير من ذلك كان مدفوعًا بمفاهيم خاطئة أساسية حول تطبيقنا وحول النظام الأساسي بشكل عام".

"ومع ذلك، فإننا نتطلع دائمًا إلى معالجة المخاوف التي تطرحها علينا مجموعة كاملة من الصناعة وصانعي السياسات والمنظمين على وجه التحديد، وما أعتقد أنه شهادة على رغبتنا في الاستجابة لذلك هو العمل الذي قمنا به القيام على وجه التحديد بما نسميه "مشروع البرسيم"

وفي الولايات المتحدة، تعهدت TikTok بمحاربة التهديد بالحظر أو البيع القسري لعملياتها.

وردا على سؤال حول التأثير الذي قد تحدثه مثل هذه التطورات على قاعدتها الأيرلندية، قالت TikTok إنها تظل ملتزمة تجاه أيرلندا.