SINGAPURA, KOMPAS.com – Setiap hari, TikTok mengecek lebih dari 160 juta video yang diunggah oleh penggunanya di seluruh dunia.
Dari 160 juta itu, ada 1 persen atau sekitar 1,5 juta-1,6 juta konten yang melanggar pedoman komunitas setiap harinya.
Di balik layar, ada tiga langkah yang memastikan keamanan konten di TikTok: pengecekan oleh AI, laporan komunitas, dan tinjauan ulang moderator manusia.
1. Otomatisasi yang Ketat dengan Pembelajaran Mesin
Langkah pertama dalam penyaringan video dilakukan oleh sistem kecerdasan buatan (AI). AI TikTok dilatih untuk mengenali pola tertentu dalam konten, seperti kekerasan, ujaran kebencian, dan ketelanjangan.
Sistem ini dapat secara otomatis memfilter video berdasarkan pedoman komunitas yang berlaku.
Baca juga: TikTok Uji Coba Fitur Khusus Artis, Termasuk di Indonesia
Ini mencakup deteksi obyek berbahaya bagi anak-anak dan remaja seperti senjata, rokok, dan alkohol; bagian tubuh yang memperlihatkan ketelanjangan; hingga simbol atau bendera organisasi terlarang.
“Mesin ditunjukkan 100 konten yang memuat obyek berbahaya seperti pisau. Setelah mesin melihatnya untuk ke 101-kalinya, mesin dapat mengenalinya. Mesin terus belajar melalui pengulangan, untuk mengingat hal-hal dengan benar,” ujar Tim Transparency and Accountability Center (TAC) TikTok di Singapura, Selasa (6/5/2025).
Walaupun efektif, TikTok mengakui sistem otomatis ini tidak sempurna. Sistem pembelajaran mesin sangat bergantung pada dataset atau kumpulan data yang tersedia. Semakin besar dan beragam data, semakin mudah bagi mesin untuk mengenali.
2. Tinjauan Ulang oleh Manusia
Setelah melewati pemeriksaan otomatis, konten tertentu akan diperiksa ulang oleh moderator manusia—terutama yang mengandung ambiguitas atau perlu penilaian kontekstual.
Meskipun AI dapat mendeteksi potensi pelanggaran, hanya manusia yang dapat benar-benar memahami konteks dan nuansa secara menyeluruh.
Baca juga: Fitur Baru TikTok, Bantu Orang Tua Awasi Anak saat TikTokan
“Keputusan akhirnya sering kali melibatkan pemahaman tentang konteks budaya, bahasa, sosial, dan emosi yang terkandung dalam video. Itulah mengapa moderator manusia tetap sangat penting dalam proses ini,” kata Tim TAC TikTok.
Hal ini sangat penting karena terkadang konten yang terlihat melanggar, sebenarnya tidak mengandung intensi berbahaya.
Contohnya, sebuah video yang memperlihatkan pisau mungkin terlihat berbahaya, padahal bisa jadi itu adalah dokumentasi pembuatan pisau di pabrik. Konteks inilah yang hanya bisa dipahami manusia, bukan mesin.
TikTok mempekerjakan ribuan moderator manusia tersebar di berbagai belahan dunia. Mereka beroperasi 24 jam sehari, 7 hari seminggu, untuk meninjau konten yang ditandai oleh sistem otomatis atau dilaporkan pengguna.
Bagi pengguna yang merasa kontennya tidak adil dihapus atau dibatasi, TikTok menyediakan mekanisme koreksi yang dikenal dengan istilah banding atau appeal. Ketika sebuah video ditandai atau dihapus, pengguna dapat mengajukan banding untuk meminta tinjauan ulang oleh moderator manusia.
No responses yet