TikTok implementiert Auto-Labeling von KI-generierten Inhalten im Kampf gegen Deepfakes
Summary:
TikTok plant in einer neuen Ankündigung, KI-generierte Inhalte (AIGC) automatisch zu kennzeichnen. Die Plattform arbeitet mit der Coalition for Content Provenance and Authenticity (C2PA) zusammen und wird ihre Technologie Content Credentials nutzen, um Inhalte mit Metadaten zu kennzeichnen und AIGC zu identifizieren. Diese Funktion, die ursprünglich für Bilder und Videos gedacht war, wird nach und nach erweitert, um mehr Inhalte zu kennzeichnen und schließlich auch Audioinhalte einzubeziehen. TikTok tritt auch der Content Authenticity Initiative (CAI) von Adobe bei und wird mit MediaWise und WITNESS zusammenarbeiten, um Ressourcen zur Medienkompetenz einzuführen. Diese Bemühungen zielen darauf ab, den Nutzern die notwendigen Werkzeuge an die Hand zu geben, um die Authentizität digitaler Inhalte zu erkennen.
TikTok hat angekündigt, dass es mit der automatischen Kennzeichnung von Inhalten, die von künstlicher Intelligenz (KI) erstellt wurden, beim Hochladen in die Social-Networking-App beginnen wird. Das Unternehmen gab am 9. Mai bekannt, dass es sich mit der Coalition for Content Provenance and Authenticity (C2PA) zusammenschließt und Pionierarbeit bei der Nutzung seiner Content Credentials-Technologie unter den Media-Sharing-Plattformen leisten wird. TikTok schreibt seit über einem Jahr vor, dass die Mitwirkenden realistische KI-produzierte Inhalte sowie alles, was mit den eigenen KI-Funktionen von TikTok erstellt wurde, identifizieren müssen. Diese jüngste Initiative führt das automatische Tagging von KI-produzierten Inhalten ein, die über andere Plattformen verbreitet werden, wobei eine Technologie verwendet wird, die Metadaten an Inhalte anfügt, sodass die Plattform KI-erstellte Materialien sofort identifizieren und kennzeichnen kann. Das Unternehmen erklärte, dass die Prävalenz von automatisch getaggten KI-Inhalten auf TikTok zunächst "allmählich" steigen wird und sobald die Content Credential auf die Metadaten anderer Plattformen angewendet werden, können mehr Inhalte gekennzeichnet werden. Derzeit wird diese Funktionalität nur Bilder und Videos abdecken und soll in naher Zukunft auf Audioinhalte ausgeweitet werden. TikTok berichtete auch, dass es Mitglied der von Adobe geführten Content Authenticity Initiative (CAI) geworden ist. Dana Roa, General Counsel und Chief Trust Officer von Adobe, betonte die Notwendigkeit, der Öffentlichkeit Methoden zur Bestätigung der Authentizität in einer Zeit zu erleichtern, in der alle digitalen Inhalte manipuliert werden können. Der neueste Fortschritt von TikTok ist die Einführung von Ressourcen zur Medienkompetenz, die zusammen mit MediaWise und WITNESS erstellt wurden und zwölf Videos umfassen werden, die im Laufe des Jahres veröffentlicht werden sollen. Diese Videos unterstreichen die Notwendigkeit universeller Medienkompetenz und erläutern, wie App-Funktionen wie KI-Kennzeichnungen einen tieferen Kontext für Inhalte bieten können. Diese Bemühungen stehen vor dem Hintergrund wachsender Bedenken über das Potenzial der KI, immer realistischere Inhalte zu erstellen, was zu einer zunehmenden Verbreitung von KI-entwickelten Deepfakes führt. Kürzlich wurde in Hongkong ein nicht autorisierter Kryptowährungsbroker entlarvt, der Verbindungen zu Elon Musk hergestellt hatte, indem er KI-generierte Musk-Videos und -Bilder auf seinen Online-Plattformen veröffentlichte. Tage zuvor hatte der Mitbegründer von Berkshire Hathaway, Warren Buffet, Parallelen zwischen der Rolle der KI bei illegalen Finanzpraktiken und der Erfindung von Atomwaffen gezogen, nachdem er Erfahrungen mit einem Deepfake gemacht hatte, der sein Aussehen und seine Manierismen überzeugend nachahmen sollte.
Published At
5/9/2024 4:34:38 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.