Meta versieht KI-generierte Bilder mit unsichtbaren Wasserzeichen, um Missbrauch einzudämmen
Summary:
Meta, das Unternehmen, das früher als Facebook bekannt war, plant, alle Bilder, die mit seinem Tool für künstliche Intelligenz (KI) erstellt wurden, mit unsichtbaren Wasserzeichen zu versehen, um Missbrauch zu verhindern. Im Gegensatz zu herkömmlichen Wasserzeichen widerstehen diese gängigen Bildmanipulationen und können nicht einfach entfernt werden. Ursprünglich auf Bilder angewendet, die von Meta AI produziert wurden, wird der Wasserzeichendienst später auf andere Meta-Dienste ausgeweitet, die KI für die Bildgenerierung verwenden. Die "Reimagine"-Funktion für Facebook Messenger und Instagram, die es Nutzern ermöglicht, KI-gesteuerte Bilder auszutauschen, wird ebenfalls diese Funktion erhalten. Diese Änderung reagiert auf den Anstieg von KI-gestützten Betrügereien, die irreführende Inhalte fabrizieren, wie man an gefälschten Videos, Audios und Bildern sehen kann, die im Internet kursieren.
Meta, das Unternehmen, das früher als Facebook bekannt war, hat angekündigt, versteckte Wasserzeichen in alle Bilder einzubetten, die durch künstliche Intelligenz (KI) erstellt werden, als Teil seiner Strategie, den Missbrauch der Technologie zu vereiteln. Laut einem Update vom 6. Dezember zu Meta AI - dem intelligenten Assistenten des Unternehmens - wird bald ein unsichtbares Wasserzeichen in jedes KI-generierte Bild integriert, das aus der "Imagine with Meta AI-Erfahrung" stammt. Genau wie andere KI-Chatbots fabriziert Meta AI Bilder und Inhalte auf der Grundlage der Eingaben der Benutzer. Im Gegensatz zu seinen Pendants beabsichtigt Meta jedoch, Fehlverhalten zu verhindern, indem es sich weigert, seine Ressource als Werkzeug für Täuschung ausnutzen zu lassen.
Die neue unsichtbare Wasserzeichenfunktion ist widerstandsfähig gegen Entfernungsversuche von Erstellern. "In den kommenden Wochen wird ein verstecktes Wasserzeichen in die 'Imagine with Meta AI-Erfahrung' integriert, um die Transparenz und Rechenschaftspflicht zu verbessern", so Meta. Ein Deep-Learning-Modell wird verwendet, um mit dem KI-Tool hergestellten Bildern Wasserzeichen anzubringen, die für das menschliche Auge nicht erkennbar sind. Die verdeckten Wasserzeichen können jedoch mit einem entsprechenden Modell identifiziert werden. Herkömmliche Wasserzeichen sind unterdurchschnittlich im Vergleich zu den von Meta proklamierten KI-Wasserzeichen, die als "Imagine with Meta AI" bekannt sind und robust gegen übliche Bildmodifikationen wie Zuschneiden, Farbänderungen (Helligkeits- oder Kontrastanpassungen), Screenshots und mehr sind.
Zunächst wird der Wasserzeichendienst auf Bilder angewendet, die mit Meta AI erstellt wurden, aber es gibt Pläne, die Funktion auf andere Dienste auszuweiten, die KI bei der Bildgenerierung einsetzen. Darüber hinaus hat Meta AI die Funktion "Reimagine" für Facebook Messenger und Instagram eingeführt. Dieses Update erleichtert den Austausch von KI-gesteuerten Bildern zwischen den Nutzern und integriert die versteckte Wasserzeichenfunktion in beide Messaging-Plattformen.
KI-Plattformen wie Dall-E und Midjourney bieten bereits die Möglichkeit, traditionelle Wasserzeichen in ihre Inhalte einzubinden. Diese können jedoch leicht entfernt werden, indem das Bild peripher beschnitten wird. Bestimmte KI-Tools können sogar Wasserzeichen automatisch aus Bildern entfernen, eine Leistung, von der Meta AI behauptet, dass sie mit ihrem Produkt nicht praktikabel sein wird.
Nach der Popularisierung generativer KI-Tools haben eine Vielzahl von Wirtschaftsverbänden und Prominenten KI-gestützte Betrugsvorhaben angeprangert. Betrüger nutzen praktische Tools, um gefälschte Videos, Audios und Bilder berühmter Personen zu erstellen, die sie dann im Internet verbreiten.
Im Mai führte ein von KI zusammengebasteltes Bild, das eine Explosion in der Nähe des Pentagons, dem Hauptsitz des US-Verteidigungsministeriums, zeigte, kurzzeitig zu einem Einbruch des Aktienmarktes. Dieses fabrizierte Bild wurde in der Folge von anderen Nachrichtenpublikationen geteilt und verbreitet, wodurch ein Kaskadeneffekt ausgelöst wurde. Nichtsdestotrotz wiesen die örtlichen Strafverfolgungsbehörden, einschließlich der Pentagon Force Protection Agency, die für die Sicherheit des Gebäudes verantwortlich ist, die kursierenden Berichte zurück und betonten, dass es "keine Explosion oder einen Zwischenfall" gegeben habe.
Im selben Monat wurde die Menschenrechtsorganisation Amnesty International von einem KI-generierten Bild getäuscht, das angeblich die Unterdrückung durch die Polizei zeigte, und das sie anschließend für Kampagnen gegen die Strafverfolgung verwendeten. Erika Guevara Rosas, Amerika-Direktorin von Amnesty, räumte den Fehler ein und sagte: "Wir haben die Bilder aus den sozialen Medien zurückgezogen, da wir nicht wollen, dass der Streit über die Verwendung von KI-Bildern die Unterstützung für die Opfer und ihre Forderungen nach Gerechtigkeit in Kolumbien an den Rand drängt."
Published At
12/7/2023 11:50:05 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.