Yapay Zeka Sistemlerindeki Yeni Sinirsel Özellikler, Yapay Zeka Halüsinasyonları Sorununu Çözebilir
Summary:
Önemli bir endüstri sorunu olan yapay zeka (AI) halüsinasyonları, yeni keşfedilen sinirsel özelliklerle çözülebilir. Bu halüsinasyonlar, büyük yapay zeka dil modellerinin eğitimi sırasında üretilen yanlış verilerdir. Anthropic'in CEO'su Dario Amodei, bu sinirsel özelliklerin yapay zeka sistemlerine müdahale edilmesine ve değiştirilmesine izin verdiğini vurguluyor. Firma, yapay zeka davranışını değiştirmek için bu özellikleri ayarlamanın etkisini inceliyor. Ayrıca, Amodei'ye göre, yapay zeka geliştirmedeki ilerleme artık öncelikle verilere değil, sentetik veri kümelerinin ortaya çıkması nedeniyle yeteneğe bağlı.
Yapay zeka (AI) sistemlerinin sinirsel işleyişinin yeni ortaya çıkarılan yönleri, AI halüsinasyonları olarak bilinen devam eden bir sorunu potansiyel olarak çözebilir. Bu tür halüsinasyonlar, daha büyük dil modelleri üretken yapay zeka sistemleri olarak çalışmak üzere eğitildiğinde ortaya çıkan beklenmedik sonuçlardır. Bu modeller bazen, daha önce veri kümelerinin bir parçası olmayan yanlış da olsa yeni veriler üretir. Bununla birlikte, bu yeni sinirsel özellikler bu soruna çözüm olabilir, diyor Anthropic'in kurucu ortağı ve CEO'su Dario Amodei.
Amodei, 2024'te Paris'teki Viva Tech etkinliğinde yaptığı konuşmada, çağdaş yapay zeka sistemlerinin yüz milyonlarca nörondan oluştuğunu belirtti. Güvenlik açıkları veya belirli gruplara karşı önyargı ile bağlantılı olanlar da dahil olmak üzere, modellerinde 30 milyon özelliğin keşfedildiğini vurguladı. Bu özelliklere müdahale etme ve değiştirme yeteneği artık kazanılmıştır.
Halüsinasyonlarla ilgili sorun, yapay zeka süreçlerinin çıktılarının yanlış olduğunun farkında olmamasıdır. Ancak Amodei, bu yeni özelliklerin potansiyel olarak yapay zeka halüsinasyonlarına son verebileceğine dair güvence veriyor. "Bu yeni keşfin başlıca avantajları, yapay zeka halüsinasyonlarının örneklerini azaltmayı içeriyor" diyor.
Dahili özelliklerin değiştirilmesinin yapay zeka davranışını nasıl değiştirebileceğini keşfetmek için Anthropic'te araştırmalar devam ediyor. Benzersiz bir özelliğin yapay zekanın Golden Gate Köprüsü'ne büyük ölçüde konsantre olmasına neden olduğu bir gösteri modeli oluşturmayı başardılar. 23 Mayıs'ta Anthropic, bir X gönderisine olan güvenini dile getirdi: "Claude'daki bu özellikleri tanımlama ve değiştirme yeteneği, kapsamlı dil modellerinin gerçekte ne kadar çalıştığını anlamaya başlama konusundaki güvenimizi pekiştiriyor."
Saygın bir yapay zeka geliştirme şirketi olan Anthropic, yapay zeka sohbet robotu Claude'u Mayıs ayının başlarında Avrupa pazarına tanıttı. Web uygulaması ve iOS uygulaması aracılığıyla kullanılabilen Claude, 14 Mayıs'tan bu yana Fransızca, Almanca, İspanyolca ve İtalyanca gibi birçok Avrupa dilini destekliyor.
Amodei'ye göre yapay zeka büyümesi artık verilere değil yeteneklere dayanıyor. Veri kıtlığı daha önce yapay zeka gelişimini engelliyordu, ancak sentetik veri kümelerinin başlangıcı, ana engeli geliştirici becerilerinin eksikliğine kaydırdı. Sentetik veriler, yapay zeka ölçeklenebilirliği için umut vaat ediyor, ancak Amodei, fazla sentetik veriler daha zayıf, gerçekçi olmayan veri kümelerine neden olabileceğinden, sentetik ve gerçek dünya verileri arasında dengeli bir oran olduğu konusunda uyardı.
Yapay zekaya yapılan yatırımlar, Elon Musk'ın şirketinin 27 Mayıs'ta B Serisi fonlamada 6 milyar dolarlık devasa bir yatırım almasıyla 2024'ün başından bu yana önemli bir artış gördü. Bu finansman, Grok sohbet robotunu yıl sonuna kadar bir ChatGPT rakibi olarak konumlandırmayı amaçlıyor.
Published At
5/29/2024 12:49:21 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.