TikTok comenzará a etiquetar el contenido creado con inteligencia artificial y subido desde plataformas externas, con el objetivo de combatir la propagación de información falsa.

"La inteligencia artificial ofrece oportunidades increíbles para la creatividad, pero si la audiencia no sabe que el contenido fue generado por IA, puede generar confusión o desinformación", declaró TikTok en un comunicado el jueves. "El etiquetado ayuda a aclarar este contexto; por eso etiquetamos el AIGC (contenido generado por IA) creado con los efectos de IA de TikTok, y desde hace más de un año exigimos a los creadores que etiqueten el AIGC real".

El cambio de política de TikTok forma parte de un esfuerzo más amplio de la industria tecnológica para implementar más medidas de protección en el uso de la IA.

En febrero de este año, Meta anunció que estaba colaborando con socios de la industria para desarrollar estándares técnicos que faciliten la identificación de imágenes generadas por herramientas de IA, y que eventualmente se extenderán al reconocimiento de video y audio. En ese momento, los usuarios de Facebook e Instagram verán etiquetas en las imágenes generadas por IA.

Google ya había indicado el año pasado que las etiquetas de IA se implementarían en YouTube y otras plataformas.

En cuanto a TikTok, también está colaborando con la Coalición para la Procedencia y Autenticidad del Contenido (Coalition for Content Provenance and Authenticity) y utilizando su tecnología de credenciales de contenido.

TikTok afirmó que esta tecnología puede adjuntar metadatos al contenido, y luego utilizar esos metadatos para identificar y etiquetar instantáneamente el contenido generado por IA. También señaló que ya ha comenzado a implementar esta tecnología en imágenes y videos, y que en el futuro también se aplicará a contenido de solo audio.

En los próximos meses, el contenido en TikTok tendrá credenciales de contenido adjuntas, que permanecerán en el contenido incluso después de descargarlo. Esto ayudará a identificar el material generado por IA creado en TikTok y permitirá a las personas comprender cuándo, dónde y cómo se creó o editó el contenido. Otras plataformas que adopten las credenciales de contenido también podrán etiquetar automáticamente este contenido.

"Usar las credenciales de contenido como una forma directa de identificar y comunicar medios sintéticos a la audiencia es un paso importante hacia la transparencia en la IA, incluso más significativo que las técnicas típicas de marcas de agua", declaró Claire Leibowicz, líder del proyecto de IA e integridad mediática de la organización asociada de inteligencia artificial, en un comunicado. "Al mismo tiempo, necesitamos comprender mejor cómo reaccionan los usuarios a estas etiquetas, y esperamos que TikTok informe los comentarios para que podamos entender mejor cómo el público responde a un mundo cada vez más impulsado por la IA".

TikTok afirmó que es la primera plataforma de intercambio de videos en poner en práctica las credenciales de contenido, y que se unirá a la iniciativa de autenticidad de contenido liderada por Adobe para impulsar la adopción de estas credenciales en la industria.

La política anterior de TikTok alentaba a los usuarios a etiquetar el contenido generado o editado en gran medida por IA. También exigía que los usuarios etiquetaran todo el contenido generado por IA que incluyera imágenes, audio y video reales.

Al respecto, Adam Presser, director de operaciones y seguridad de confianza de TikTok, declaró en una entrevista con medios extranjeros: "Queremos asegurarnos de que las personas puedan entender qué es un hecho y qué es ficción".