TikTok va începe să înlocuiască editorii cu un algoritm care se va ocupa de identificarea şi ştergerea automată a clipurilor care contravin condiţiilor de utilizare.
Începând cu Statele Unite şi Canada, TikTok va folosi un sistem automatizat de verificare a conţinutului, care va şterge acele clipuri video care conţin nuditate, sex, violenţă sau diverse activităţi ilegale.
Algoritmul va elimina automat conţinutul necorespunzător, fără implicarea vreunui editor uman. Aceştia din urmă vor face verificarea doar în cazul în care utilizatorii vor face apel, considerând că ştergerea s-a făcut pe nedrept.
Trecerea la un sistem automatizat este o mutare riscantă pentru TikTok, dacă se are în vedere trecutul agitat din acest punct de vedere al altor platforme. Pe YouTube, spre exemplu, au existat numeroase cazuri în care algoritmul a eliminat eronat clipuri şi chiar canale ale creatorilor de conţinut.
Chinezii par a fi foarte încrezători în sistemul pe care încep să-l implementeze şi spun că, în testele de până acum, erorile de moderare au reprezentat doar 5%.
Însă, raportat la numărul foarte mare de conţinut postat pe TikTok, există şanse mari ca zeci sau sute de mii de clipuri să fie identificate sau ignorate eronat de algoritm. Doar în primele trei luni ale acestui an şi doar în SUA, pe TikTok au fost postate peste 8,5 milioane de clipuri.
Pe de altă parte, este o veste bună pentru moderatori, care vor fi scutiţi de multe dintre ororile pe care ar trebui să le vadă. Este cunoscut faptul că, cel puţin unii din moderatorii conţinutului online, care trebuie să vizioneze mari cantităţi de conţinut de video, inclusiv violenţă extremă, dezvoltă sindrom de stres posttraumatic.