TikTok начнет маркировать контент, созданный с помощью искусственного интеллекта и загруженный с внешних платформ, чтобы бороться с распространением дезинформации.

«Искусственный интеллект открывает невероятные творческие возможности, но если зрители не знают, что контент создан ИИ, это может вызвать путаницу или ввести в заблуждение», — говорится в заявлении TikTok в четверг. «Маркировка помогает прояснить этот контекст — именно поэтому мы маркируем AIGC (контент, созданный ИИ), созданный с помощью AI-эффектов TikTok, и уже более года требуем от авторов маркировать настоящий AIGC».

Изменение политики TikTok является частью более широких усилий технологической отрасли по внедрению дополнительных мер безопасности при использовании ИИ.

В феврале этого года Meta объявила, что сотрудничает с отраслевыми партнерами для разработки технических стандартов, позволяющих легче идентифицировать изображения, созданные инструментами ИИ, и в конечном итоге распространить это на видео и аудио. Тогда пользователи Facebook и Instagram увидят метки на изображениях, созданных ИИ.

Google еще в прошлом году заявил, что метки ИИ будут внедрены на YouTube и других платформах.

Что касается TikTok, он также сотрудничает с Коалицией за происхождение и подлинность контента (Coalition for Content Provenance and Authenticity) и использует их технологию удостоверения подлинности контента.

TikTok заявляет, что эта технология позволяет прикреплять метаданные к контенту, а затем мгновенно идентифицировать и маркировать контент, созданный ИИ. Компания уже начала внедрять эту технологию для изображений и видео, а в будущем планирует применить ее и к аудиоконтенту.

В ближайшие месяцы к контенту на TikTok будут прикрепляться удостоверения подлинности, которые останутся на контенте после его скачивания. Это поможет идентифицировать материалы, созданные с помощью ИИ на TikTok, и позволит людям узнать, когда, где и как был создан или отредактирован контент. Другие платформы, использующие удостоверения подлинности, также смогут автоматически маркировать этот контент.

«Использование удостоверений подлинности как способа прямой идентификации и передачи синтетических медиа зрителям — это важный шаг к прозрачности ИИ, даже более значимый, чем типичные технологии водяных знаков», — заявила Клэр Лейбовиц (Claire Leibowicz), руководитель проекта по ИИ и медиа-честности в организации «Партнерство по ИИ». «В то же время нам необходимо лучше понять реакцию пользователей на эти метки, и мы надеемся, что TikTok будет сообщать об обратной связи, чтобы мы могли лучше понять, как общественность реагирует на все более сильное влияние ИИ».

TikTok заявляет, что он является первой платформой для обмена видео, которая внедрила удостоверения подлинности контента, и присоединится к инициативе по подлинности контента под руководством Adobe, чтобы способствовать внедрению удостоверений в отрасли.

Прежняя политика TikTok поощряла пользователей маркировать контент, созданный или значительно отредактированный с помощью ИИ. Она также требовала от пользователей маркировать весь контент, созданный ИИ, содержащий реальные изображения, аудио и видео.

В связи с этим Адам Прессер (Adam Presser), руководитель отдела операций и безопасности доверия TikTok, в интервью зарубежным СМИ заявил: «Мы хотим быть уверены, что люди могут понять, что является фактом, а что вымыслом».