“Moderasi konten di TikTok memang cukup kompleks. Kami menggunakan teknologi mesin yang mampu mendeteksi berbagai elemen seperti visual, gestur, dan audio. Namun, mesin tidak selalu dapat memahami konteks atau narasi sepenuhnya,” ujar Anggini.
Hal ini berarti bahwa meskipun TikTok telah melatih AI untuk mengenali konten berbahaya, sistem ini masih mungkin menangguhkan konten yang sebenarnya tidak melanggar kebijakan komunitas.
Anggini juga menambahkan bahwa kebijakan TikTok secara tegas melarang konten yang berisi pornografi, ujaran kebencian, atau SARA.
BACA JUGA:Produk-produk Ponsel yang Diperkirakan Gunakan Chip Dimensity 9400 : Berikut Daftar Lengkapnya !
“Panduan komunitas adalah komitmen kami untuk menjaga keamanan dan kenyamanan di platform. Jika ditemukan pelanggaran, maka penangguhan konten akan dilakukan.”
Jika pengguna mengalami penangguhan konten yang dirasa tidak melanggar, TikTok menganjurkan agar mereka memanfaatkan fitur banding daripada langsung menghapus konten.
Proses banding memungkinkan pengguna untuk meminta TikTok meninjau ulang konten yang di-take down oleh AI.
“Ketika pengguna melakukan banding, tim moderasi TikTok akan melakukan peninjauan ulang secara manual untuk memastikan apakah penangguhan tersebut memang sesuai atau hanya kesalahan AI,” jelas Anggini.
TikTok mengakui bahwa beberapa penangguhan konten oleh AI memang bisa terjadi karena kesalahan dalam membaca konteks konten tersebut.
Karena itu, jika setelah peninjauan ulang ditemukan bahwa konten tersebut seharusnya tidak ditangguhkan, maka konten akan dipulihkan.
Langkah ini menurut Anggini, menunjukkan keseriusan TikTok dalam menjaga kepercayaan pengguna.
Anggini menjelaskan, “Proses moderasi kami melibatkan elemen mesin, namun kami mengambil tindakan ini dengan sangat serius. Jika ada kesalahan pada sisi TikTok, konten akan dipulihkan.”
Hal ini menjadi salah satu langkah TikTok dalam menjaga transparansi dan tanggung jawab terhadap setiap penangguhan konten yang dilakukan.
Kecerdasan buatan dalam moderasi konten memang memberikan manfaat dalam jumlah yang sangat besar, mengingat jutaan konten yang diunggah setiap harinya.
Namun, pemanfaatan AI tidak terlepas dari tantangan, terutama dalam memahami konteks atau pesan di balik setiap video.