TikTok wird damit beginnen, Inhalte zu kennzeichnen, die mit künstlicher Intelligenz erstellt und von externen Plattformen hochgeladen wurden, um die Verbreitung von Fehlinformationen zu bekämpfen.

„Künstliche Intelligenz bietet unglaubliche kreative Möglichkeiten, aber wenn die Zuschauer nicht wissen, dass Inhalte von KI generiert wurden, kann dies zu Verwirrung oder Irreführung führen“, erklärte TikTok in einer Stellungnahme am Donnerstag. „Kennzeichnungen helfen, diesen Kontext zu verdeutlichen – deshalb kennzeichnen wir bereits AIGC (KI-generierte Inhalte), die mit TikTok-KI-Effekten erstellt wurden, und fordern seit über einem Jahr von Erstellern, echte AIGC zu kennzeichnen.“

Die Richtlinienänderung von TikTok ist Teil eines breiteren Versuchs der Technologiebranche, mehr Sicherheitsmaßnahmen für die Nutzung von KI bereitzustellen.

Im Februar gab Meta bekannt, dass es mit Branchenpartnern zusammenarbeitet, um technische Standards zu entwickeln, die es einfacher machen, von KI-Tools generierte Bilder zu identifizieren, und dies später auf die Erkennung von Videos und Audio ausweiten wird. Dann werden Nutzer auf Facebook und Instagram Kennzeichnungen für KI-generierte Bilder sehen.

Google hatte bereits im letzten Jahr erklärt, dass KI-Kennzeichnungen auf YouTube und anderen Plattformen eingeführt werden.

Was TikTok betrifft, arbeitet es auch mit der Coalition for Content Provenance and Authenticity zusammen und nutzt deren Content-Credentials-Technologie.

TikTok erklärte, dass diese Technologie Metadaten an Inhalte anhängen kann, die dann verwendet werden, um KI-generierte Inhalte sofort zu identifizieren und zu kennzeichnen. Gleichzeitig gab das Unternehmen an, dass es bereits begonnen hat, diese Technologie bei Bildern und Videos einzusetzen, und sie in Zukunft auch auf reine Audioinhalte anwenden wird.

In den kommenden Monaten werden Inhalte auf TikTok mit Content Credentials versehen, die nach dem Herunterladen auf dem Inhalt verbleiben. Dies wird helfen, KI-generiertes Material, das auf TikTok erstellt wurde, zu identifizieren und den Menschen zu helfen, zu verstehen, wann, wo und wie Inhalte erstellt oder bearbeitet wurden. Andere Plattformen, die Content Credentials verwenden, können diese Inhalte ebenfalls automatisch kennzeichnen.

„Die Verwendung von Content Credentials als eine Möglichkeit, synthetische Medien direkt zu identifizieren und dem Publikum zu vermitteln, ist ein bedeutender Schritt in Richtung KI-Transparenz, der sogar über typische Wasserzeichen-Technologien hinausgeht“, sagte Claire Leibowicz, Leiterin des KI- und Medienintegritätsprojekts bei der Partnership on AI, in einer Erklärung. „Gleichzeitig müssen wir besser verstehen, wie Nutzer auf diese Kennzeichnungen reagieren, und hoffen, dass TikTok Feedback berichtet, damit wir besser verstehen, wie die Öffentlichkeit auf eine zunehmend KI-geprägte Welt reagiert.“

TikTok erklärte, dass es die erste Video-Sharing-Plattform ist, die Content Credentials in die Praxis umsetzt, und wird sich der von Adobe geleiteten Content Authenticity Initiative anschließen, um die Einführung von Credentials in der Branche voranzutreiben.

Bisherige Richtlinien von TikTok ermutigten Nutzer, Inhalte zu kennzeichnen, die von KI erstellt oder stark bearbeitet wurden. Es verlangte auch von Nutzern, alle KI-generierten Inhalte zu kennzeichnen, die reale Bilder, Audio und Videos enthalten.

Dazu sagte Adam Presser, Leiter der Betriebs- und Vertrauenssicherheit bei TikTok, in einem Interview mit ausländischen Medien: „Wir möchten sicherstellen, dass die Menschen verstehen, was Tatsache und was Fiktion ist.“