أن تكون خوارزمية TikTok أكثر شفافية ، بعد مخاوف بشأن التوصيات الضارة
تحديث: تقول TikTok إنها تطلق اليوم أداة جديدة لتوفير قدر أكبر من الشفافية حول كيفية إضافة مقاطع الفيديو إلى موجز المستخدم. لأي فيديو ، يمكنك النقر على لوحة المشاركة ثم على أيقونة علامة الاستفهام المسماة “لماذا هذا الفيديو؟”. حتى الآن ، لا يتم تقديم سوى أسباب عامة جدًا – مثل “هذا الفيديو شائع في الولايات المتحدة” – ولكن الشركة تعد بمزيد من التفاصيل لاحقًا …
ربما تكون كيفية عمل خوارزمية TikTok هي أكثر أسرار الشركة حراسة مشددة. لكن ال وول ستريت جورنال يعتقد أنه كان قادرًا على حلها باستخدام مجموعة من حسابات الروبوت – وكانت النتائج رائعة ومثيرة للقلق.
يقول مهندس سابق في Google عمل على خوارزمية YouTube إنه يتخذ نفس النهج بشكل أساسي ، ولكن بشكل أقل تطرفًا.
رسميًا ، تقول TikTok إنها تستخدم أربع إشارات: ما تشاهده وتشاركه وتعجبه وتتبعه. لكن التحليل أشار إلى أن أحد الأربعة هو الأكثر أهمية إلى حد بعيد …
ال وول ستريت جورنال أنشأت مقطع فيديو مدته 13 دقيقة لمشاركة النتائج التي توصلت إليها.
اكتشفنا أن TikTok لا يحتاج إلا إلى واحد من هؤلاء لمعرفة ما يلي: كم من الوقت ستستمر في جزء من المحتوى.
في كل ثانية تتردد أو تعيد المشاهدة ، يتتبعك التطبيق. من خلال هذه الإشارة القوية ، يتعرف TikTok على اهتماماتك وعواطفك الخفية ، ويدفعك إلى أعماق ثقوب من المحتوى يصعب الهروب منها.
تبدأ تجربة TikTok بنفس الطريقة للجميع. افتح التطبيق وسترى على الفور سلسلة لا نهائية من مقاطع الفيديو في خلاصة For You. يبدأ TikTok بتقديم مجموعة مختارة من مقاطع الفيديو المشهورة جدًا التي تم فحصها بواسطة مشرفي التطبيق إلى الحساب.
من هذه ، فإنه يعمل على تحديد اهتماماتك.
ال وول ستريت جورنال برامج روبوت مبرمجة بحيث يكون لها عمر وموقع ومجموعة من الاهتمامات الخاصة. لم يتم إدخال هذه الاهتمامات في التطبيق مطلقًا ، بل تم استخدامها فقط كأساس لاختيار مقاطع الفيديو التي شاهدها الروبوت. قام الروبوت بفحص كل مقطع فيديو في خلاصته بحثًا عن علامات تصنيف أو صور محددة بواسطة AI تتعلق باهتماماته. سيتوقف عندئذٍ عن التمرير لمشاهدة مقاطع الفيديو هذه ، وإعادة مشاهدة بعضها.
ما وجدته الورقة هو أن تحديدات الفيديو وعدد مرات المشاهدة تقلص ، من مقاطع الفيديو الشائعة حول أي شيء ، إلى تلك التي تركز بشدة على الاهتمامات التي حددتها.
تم تحليل النتائج من قبل عالم البيانات وخبير الخوارزميات Guillaume Chaslot ، مهندس Google السابق الذي عمل على خوارزمية YouTube.
إنه الآن مدافع عن شفافية الخوارزمية. يقول إن TikTok يختلف عن منصات التواصل الاجتماعي الأخرى.
“يمكن أن تصبح الخوارزمية على TikTok أكثر قوة ويمكن أن تكون قادرة على معرفة نقاط الضعف الخاصة بك بشكل أسرع.”
في الواقع ، تعلمت TikTok تمامًا العديد من اهتمامات حساباتنا في أقل من ساعتين. بعضها اكتشف في أقل من 40 دقيقة.
تمت برمجة أحد الروبوتات بالحزن والاكتئاب كـ “اهتمامات”.
أقل من ثلاث دقائق من استخدام TikTok ، في الفيديو الخامس عشر ، [bot] kentucky_96 يتوقف عند هذا [sad video about losing people from your life]. يشاهد Kentucky_96 الفيديو الذي تبلغ مدته 35 ثانية مرتين. هنا تحصل TikTok على أول فكرة ربما يشعر بها المستخدم الجديد بالإحباط مؤخرًا.
زودت المعلومات الواردة في هذا الفيديو الفردي التطبيق بأدلة مهمة. مؤلف الفيديو والمسار الصوتي ووصف الفيديو وعلامات التصنيف. بعد أول فيديو حزين لـ kentucky_96 ، يقدم TikTok مقطع فيديو واحدًا آخر في وقت لاحق – أو بعد حوالي أربع دقائق أخرى من المشاهدة.
هذا الفيديو هو مقطع فيديو مع علامة التجزئة #sad. لا يزال TikTok يحاول إبعاد هذا المستخدم الجديد ، مع المزيد من مقاطع الفيديو ذات عدد مرات المشاهدة المرتفع [but] في الفيديو 57 ، يستمر kentucky_96 في مشاهدة فيديو عن حسرة القلب وإيذاء المشاعر. ثم في الفيديو 60 ، شاهد واحدًا عن الألم العاطفي.
استنادًا إلى مقاطع الفيديو التي شاهدناها حتى الآن ، يعتقد TikTok أنه ربما يريد هذا المستخدم معرفة المزيد عن الحب والانفصال والمواعدة. لذلك في حوالي 80 مقطع فيديو و 15 دقيقة ، يبدأ التطبيق في تقديم المزيد عن العلاقات. لكن kentucky_96 غير مهتم.
وبدلاً من ذلك ، يتوقف المستخدم مؤقتًا عند الحديث عن الصحة العقلية ، ثم يمرر سريعًا مقاطع الفيديو السابقة حول فقده لحبيبة سابقة ، ونصائح حول المضي قدمًا ، وكيفية جذب اهتمام الحبيب. لكن kentucky_96 باقية على هذا الفيديو الذي يحتوي على هاشتاغ #depress ، ومقاطع الفيديو هذه عن المعاناة من القلق.
بعد 224 مقطع فيديو في رحلة الروبوت الإجمالية ، أو حوالي 36 دقيقة من إجمالي وقت المشاهدة ، يتشكل فهم TikTok لـ kentucky_96. يفوق عدد مقاطع الفيديو المتعلقة بالاكتئاب وصراعات الصحة العقلية عدد مقاطع الفيديو المتعلقة بالعلاقات والانفصال. من الآن فصاعدًا ، خلاصة kentucky_96 عبارة عن طوفان من المحتوى الاكتئابي. 93٪ من الفيديوهات المعروضة على الحساب تدور حول الحزن أو الاكتئاب.
يقول TikTok إن سلوك الروبوت لا يمثل مستخدمين حقيقيين ، ولكن حتى الروبوتات ذات الاهتمامات المتنوعة المبرمجة فيها شهدت بسرعة كبيرة تضيق المحتوى الخاص بها بشكل كبير.
بالنظر إلى الشعبية الهائلة لـ TikTok بين المراهقين على وجه الخصوص ، فإن هذا يثير مخاوف واضحة. يمكن بسهولة جعل شخص ما في حالة اكتئاب أكثر اكتئابًا من خلال مشاهدة تدفق مثل هذا المحتوى. قد ينتهي المطاف بمنظر المؤامرة إلى الانطباع بأن مثل هذه الآراء هي السائدة. من المرجح أيضًا أن تدفع مثل هذه الخوارزمية أولئك الذين لديهم وجهات نظر متطرفة إلى محتوى متطرف بشكل متزايد.
يبدو أن TikTok يعطي الأولوية للمشاركة على الصحة العقلية ، ويقول Chaslot أن YouTube يفعل شيئًا مشابهًا ، ولكن بطريقة أقل تطرفًا. يتطابق هذا بالتأكيد مع تجربتي ، حيث يبدو أن مشاهدة بعض مقاطع الفيديو على التوالي حول نفس الموضوع غالبًا ما يقنع YouTube بأن هذا هو الآن اهتمامي الوحيد في الحياة – على الرغم من إعادة تعيينه على الأقل.
