TikTok akan mulai memberi label pada konten yang dibuat menggunakan kecerdasan buatan dan diunggah dari platform eksternal, untuk memerangi penyebaran informasi palsu.

"Kecerdasan buatan menghadirkan peluang kreatif yang luar biasa, tetapi jika penonton tidak tahu bahwa konten dibuat oleh AI, hal ini dapat menimbulkan kebingungan atau kesesatan," kata TikTok dalam sebuah pernyataan pada hari Kamis. "Pelabelan membantu memperjelas konteks ini—itulah sebabnya kami memberi label pada AIGC (konten yang dihasilkan AI) yang dibuat menggunakan efek AI TikTok, dan selama lebih dari setahun kami telah mewajibkan kreator untuk memberi label pada AIGC yang asli."

Perubahan kebijakan TikTok adalah bagian dari upaya yang lebih luas di industri teknologi untuk menyediakan lebih banyak langkah perlindungan dalam penggunaan AI.

Pada bulan Februari tahun ini, Meta mengumumkan bahwa mereka bekerja sama dengan mitra industri untuk mengembangkan standar teknis guna memudahkan identifikasi gambar yang dibuat oleh alat AI, dan pada akhirnya akan diperluas ke identifikasi video dan audio. Saat itu, pengguna di Facebook dan Instagram akan melihat label gambar yang dihasilkan AI.

Google tahun lalu telah menyatakan bahwa label AI akan diluncurkan di YouTube dan platform lainnya.

Adapun TikTok, juga bekerja sama dengan Koalisi untuk Asal-usul dan Keaslian Konten (Coalition for Content Provenance and Authenticity) dan menggunakan teknologi kredensial konten mereka.

TikTok mengatakan bahwa teknologi ini dapat melampirkan metadata ke konten, kemudian menggunakan metadata tersebut untuk mengidentifikasi dan menandai konten yang dihasilkan AI secara instan. Mereka juga mengatakan bahwa mereka telah mulai menerapkan teknologi ini pada gambar dan video, dan di masa depan akan diterapkan pada konten audio murni.

Dalam beberapa bulan mendatang, konten di TikTok akan dilampirkan dengan kredensial konten, dan kredensial konten akan tetap ada pada konten setelah diunduh. Ini akan membantu mengidentifikasi materi yang dihasilkan AI yang dibuat di TikTok, dan membantu orang memahami kapan, di mana, dan bagaimana konten dibuat atau diedit. Platform lain yang mengadopsi kredensial konten juga dapat secara otomatis memberi label pada konten ini.

"Menggunakan kredensial konten sebagai cara langsung untuk mengidentifikasi dan mengomunikasikan media sintetis kepada penonton adalah langkah penting menuju transparansi AI, bahkan lebih bermakna daripada teknologi watermarking yang khas," kata Claire Leibowicz, kepala proyek AI dan integritas media di organisasi mitra AI, dalam sebuah pernyataan. "Pada saat yang sama, kita perlu lebih memahami reaksi pengguna terhadap label ini, dan berharap TikTok dapat melaporkan umpan balik sehingga kita dapat lebih memahami bagaimana publik merespons dunia yang semakin dikuasai AI."

TikTok mengatakan bahwa mereka adalah platform berbagi video pertama yang menerapkan kredensial konten, dan akan bergabung dengan inisiatif keaslian konten yang dipimpin oleh Adobe untuk mendorong adopsi kredensial di industri.

Kebijakan TikTok sebelumnya mendorong pengguna untuk memberi label pada konten yang dibuat atau diedit secara ekstensif oleh AI. Mereka juga mewajibkan pengguna untuk memberi label pada semua konten yang dihasilkan AI yang berisi gambar, audio, dan video asli.

Menanggapi hal ini, Adam Presser, kepala operasi dan keamanan kepercayaan TikTok, dalam sebuah wawancara dengan media asing mengatakan: "Kami ingin memastikan bahwa orang dapat memahami apa itu fakta dan apa itu fiksi."