O TikTok começará a marcar conteúdos criados por inteligência artificial e enviados a partir de plataformas externas, a fim de combater a disseminação de desinformação.

"A inteligência artificial traz oportunidades incríveis de criação, mas se o público não souber que o conteúdo foi gerado por IA, pode gerar confusão ou desinformação", afirmou o TikTok em um comunicado na quinta-feira. "A marcação ajuda a esclarecer esse contexto — é por isso que marcamos o AIGC (conteúdo gerado por IA) criado com os efeitos de IA do TikTok e, há mais de um ano, exigimos que os criadores marquem o AIGC real."

A mudança de política do TikTok faz parte de um esforço mais amplo do setor de tecnologia para fornecer mais garantias no uso da IA.

Em fevereiro, a Meta anunciou que estava colaborando com parceiros do setor para desenvolver padrões técnicos que facilitem a identificação de imagens geradas por ferramentas de IA, com planos de expandir para vídeos e áudio. Na época, os usuários do Facebook e Instagram verão rótulos em imagens geradas por IA.

O Google já havia declarado no ano passado que os rótulos de IA seriam lançados no YouTube e em outras plataformas.

Quanto ao TikTok, também está colaborando com a Coalizão para Proveniência e Autenticidade de Conteúdo (Coalition for Content Provenance and Authenticity) e utilizando sua tecnologia de credenciais de conteúdo.

O TikTok afirmou que essa tecnologia pode anexar metadados ao conteúdo e, em seguida, usá-los para identificar e marcar instantaneamente o conteúdo gerado por IA. A empresa disse que já começou a implementar essa tecnologia em imagens e vídeos, e que futuramente será aplicada também a conteúdos puramente de áudio.

Nos próximos meses, o conteúdo no TikTok terá credenciais de conteúdo anexadas, que permanecerão no conteúdo após o download. Isso ajudará a identificar materiais gerados por IA produzidos no TikTok e permitirá que as pessoas saibam quando, onde e como o conteúdo foi criado ou editado. Outras plataformas que adotarem as credenciais de conteúdo também poderão marcar automaticamente esses conteúdos.

"Usar credenciais de conteúdo como uma forma direta de identificar e comunicar mídia sintética ao público é um passo importante em direção à transparência da IA, ainda mais significativo do que as técnicas típicas de marca d'água", afirmou Claire Leibowicz, líder do projeto de IA e integridade de mídia da Parceria de IA, em um comunicado. "Ao mesmo tempo, precisamos entender melhor como os usuários reagem a esses rótulos e esperamos que o TikTok relate feedback para que possamos compreender como o público lida com um mundo cada vez mais impulsionado pela IA."

O TikTok afirmou que é a primeira plataforma de compartilhamento de vídeos a colocar as credenciais de conteúdo em prática e que se juntará à Iniciativa de Autenticidade de Conteúdo liderada pela Adobe para promover a adoção de credenciais no setor.

A política anterior do TikTok incentivava os usuários a marcar conteúdos gerados ou amplamente editados por IA. Também exigia que os usuários marcassem todos os conteúdos gerados por IA que incluíssem imagens, áudio e vídeos reais.

Sobre isso, Adam Presser, diretor de operações e segurança de confiança do TikTok, disse em entrevista à imprensa estrangeira: "Queremos garantir que as pessoas possam entender o que é fato e o que é ficção."