Meta, Kötüye Kullanımı Engellemek için Yapay Zeka Tarafından Oluşturulan Görüntülere Görünmez Filigranlar Uygular
Summary:
Daha önce Facebook olarak bilinen şirket Meta, kötüye kullanımı önlemek için yapay zeka (AI) aracıyla oluşturulan tüm görsellere görünmez filigranlar eklemeyi planlıyor. Geleneksel filigranların aksine, bunlar yaygın görüntü manipülasyonlarına direnir ve kolayca kaldırılamaz. Başlangıçta Meta AI tarafından üretilen görüntülere uygulanan filigran hizmeti, daha sonra görüntü oluşturma için AI kullanan diğer Meta hizmetlerine genişletilecektir. Facebook Messenger ve Instagram için kullanıcıların yapay zeka odaklı görüntü alışverişinde bulunmalarına izin veren 'yeniden tasarlama' özelliği de bu özelliği alacak. Bu değişiklik, web'de dolaşan sahte videolar, sesler ve görüntülerde görüldüğü gibi yanıltıcı içerik üreten yapay zeka destekli dolandırıcılıklardaki artışa yanıt veriyor.
Eskiden Facebook olarak bilinen şirket Meta, teknolojinin kötüye kullanılmasını engelleme stratejilerinin bir parçası olarak yapay zeka (AI) aracılığıyla oluşturulan tüm görüntülere gizli filigranlar yerleştirmeyi planladığını duyurdu. Firmanın akıllı asistanı Meta AI ile ilgili 6 Aralık'ta sağlanan bir güncellemeye göre, yakında 'Meta AI ile hayal edin' deneyiminden kaynaklanan yapay zeka tarafından oluşturulan her görüntüye görünmez bir filigran eklenecek. Tıpkı diğer yapay zeka sohbet robotları gibi, Meta AI da kullanıcıların girdilerine göre görüntüler ve içerikler üretir; yine de muadillerinden farklı olarak Meta, kaynağının bir aldatma aracı olarak kullanılmasına izin vermeyi reddederek görevi kötüye kullanmayı caydırmayı amaçlıyor.
Gelen görünmez filigran özelliği, içerik oluşturucuların kaldırma girişimlerine karşı dayanıklı olacaktır. Meta, "Önümüzdeki haftalarda, gelişmiş şeffaflık ve hesap verebilirlik için 'Meta AI ile hayal et' deneyimiyle gizli bir filigran entegre edilecek" dedi. AI aracı aracılığıyla üretilen resimlere insan gözü tarafından tespit edilemeyen filigranları yapıştırmak için bir derin öğrenme modeli kullanılacak. Bununla birlikte, gizlenmiş filigranlar uygun bir modelle tanımlanabilir. Geleneksel filigranlar, kırpma, renk değişiklikleri (parlaklık veya kontrast ayarlamaları), ekran görüntüleri ve daha fazlası dahil olmak üzere olağan görüntü değişikliklerine karşı sağlam olan ve 'Meta AI ile hayal edin' olarak bilinen Meta'nın ilan ettiği AI filigranlarının ortalamanın altındadır.
Başlangıçta, filigran hizmeti Meta AI aracılığıyla üretilen resimlere uygulanacak, ancak özelliği görüntü oluşturmada AI kullanan diğer hizmetlere genişletme planları var. Buna ek olarak Meta AI, Facebook Messenger ve Instagram için 'yeniden tasarlama' özelliğini başlattı. Bu güncelleme, kullanıcılar arasında yapay zeka güdümlü görüntülerin alışverişini kolaylaştırıyor ve gizli filigran özelliğini her iki mesajlaşma platformuna da entegre edecek.
Dall-E ve Midjourney gibi yapay zeka platformları, içeriklerine geleneksel filigranları dahil etme seçeneği zaten sunuyor. Ancak bunlar, görüntüyü çevresel olarak kırparak kolayca kaldırılabilir. Bazı yapay zeka araçları, görüntülerdeki filigranları otomatik olarak ortadan kaldırabilir, bu da Meta AI'nın ürünüyle pratik olmayacağını iddia ettiği bir başarıdır.
Üretken yapay zeka araçlarının popülerleşmesinin ardından, çeşitli iş organları ve ünlüler yapay zeka destekli dolandırıcılık girişimlerini kınadı. Dolandırıcılar, ünlü kişilerin sahte videolarını, seslerini ve görüntülerini üretmek için kullanışlı araçlardan yararlanır ve daha sonra bunları web'de çoğaltırlar.
Mayıs ayında, ABD Savunma Bakanlığı'nın merkezi olan Pentagon'a yakın bir patlamayı gösteren yapay zeka tarafından uydurulmuş bir resim, borsada bir anlık düşüşe yol açtı. Bu uydurma görüntü daha sonra diğer haber yayınları tarafından paylaşıldı ve yayıldı, böylece basamaklı bir etkiye neden oldu. Bununla birlikte, binanın güvenliğinden sorumlu olan Pentagon Kuvvet Koruma Ajansı da dahil olmak üzere yerel kolluk kuvvetleri, "herhangi bir patlama veya olay" olmadığını vurgulayarak dolaşan raporları yalanladı.
Aynı ay, bir insan hakları örgütü olan Uluslararası Af Örgütü, polis baskısını gösterdiği iddia edilen ve daha sonra kolluk kuvvetlerine karşı kampanyalar için kullandıkları yapay zeka tarafından oluşturulan bir görüntüyle kandırıldı. Uluslararası Af Örgütü Amerika Direktörü Erika Guevara Rosas, "Yapay zeka tarafından uydurulmuş görüntülerin kullanımı konusundaki anlaşmazlığın, Kolombiya'daki mağdurlara ve adalet çağrılarına verilen desteği bir kenara bırakmasını istemediğimiz için görüntüleri sosyal medya güncellemelerinden geri çektik" diyerek hatayı kabul etti.
Published At
12/7/2023 11:50:05 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.