Nightshade: Chicago Üniversitesi'nin Yeni Aracı, Sanatçıların Dijital Eserlerini Yapay Zeka Eğitiminden Koruyor
Summary:
Chicago Üniversitesi araştırmacıları, sanatçıların dijital sanatlarını yapay zeka sistemlerini eğitmek için kullanılmasını önlemek için değiştirmelerine olanak tanıyan "Nightshade" adlı bir araç yarattı. Araç, yapay zeka eğitim veri kümelerine yanlış verileri beslemek için görüntüleri değiştirir ve böylece yapay zekanın doğru bir şekilde yorumlama ve çıktı alma yeteneğini bozar. Mevcut sanatçı koruma yazılımı Glaze, Nightshade'i içerecek.
Chicago Üniversitesi'nden bilim adamları, yaratıcıların dijital sanatlarını yapay zeka (AI) sistemlerini eğitmek için kullanılmalarını önleyen bir teknik tanıttılar. Ölümcül meyveleriyle ünlü bazı botanik türleri yansıtan "Nightshade" olarak adlandırılan bu araç, resimleri AI eğitimi için kullanılan veri setlerini yanlış verilerle kirletecek şekilde değiştirir. MIT tarafından yapılan Teknoloji İncelemesi, Nightshade'in dijital bir görüntünün piksellerini ustaca yeniden işlediğini ve yapay zekayı sanat eserini yanlış okuması için kandırdığını açıklıyor. Tech Review, yapay zekanın bir kedi görüntüsünün bir köpek görüntüsü olduğuna inanmak için nasıl dolandırılabileceğini ve bunun tersinin de geçerli olduğunu açıklayarak bunu örneklemektedir. Sonuç olarak, bu, AI'nın kesin ve mantıklı sonuçlar üretme yeteneğini engeller. Varsayımsal olarak, birisi güvenliği ihlal edilmiş yapay zekadan bir "kedi" resmi talep ederse, ya hatalı tanımlanmış bir köpek ya da köpekleri tasvir eden ancak Nightshade kullanılarak değiştirilenler de dahil olmak üzere yapay zekanın öğrenme verilerindeki tüm "kedilerin" bir karmaşasını alabilir. İlgili: Universal Music Group, sanatçıların haklarını yapay zeka ihlallerinden korumak için çalışıyor. Cornell Üniversitesi'nden saygın akademisyen Vitaly Shmatikov, çalışmayı görerek, şu anda bu tür saldırılara karşı önemli bir savunma olmadığını belirtti. Yorumları, OpenAI'nin ChatGPT'si gibi gelişmiş modellerin bile savunmasız olabileceğini ima ediyor. Chicago Üniversitesi'nden Profesör Ben Zhao, Nightshade'i yaratan ekibe öncülük ediyor. Bu yeni araç aslında sanatçıları korumayı amaçlayan önceki yazılımları Glaze'i genişletiyor. Daha önce sanatçıların sanat tarzlarını kamufle etmelerine veya "parlatmalarına" izin veren bir süreç geliştirdiler. Örneğin, bir karakalem portre sanatçısı bunu sanatını bir yapay zeka sistemine modern olarak tasvir etmek için kullanabilir. Gelecek planları, Nightshade'in şu anda çevrimiçi kullanım veya Chicago Üniversitesi'nin web sitesinde ücretsiz olarak sunulan Glaze'e dahil edildiğini gösteriyor.
Published At
10/23/2023 8:39:19 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.