OpenAI ve Microsoft, Yapay Zeka Araçlarından Yararlanan Devlete Bağlı Siber Saldırıları Engellemek İçin İş Birliği Yapıyor
Summary:
OpenAI ve Microsoft, OpenAI'nin GPT-4'ü de dahil olmak üzere büyük dil modellerinden yararlanan devlete bağlı beş siber saldırıyı engellemek için işbirliği yaptı. Çin, İran, Kuzey Kore ve Rusya ile bağlantılı saldırılar, yapay zekayı çeşitli siber faaliyetler için kullanmayı amaçladı ve OpenAI'yi savunma önlemlerini güçlendirmeye sevk etti. OpenAI ve diğerlerinin yapay zeka siber güvenliğini ele almaya yönelik devam eden çabalarına rağmen, tehditler devam ediyor ve 200'den fazla kuruluşun yapay zeka güvenliğini teşvik etmeye ve siber güvenlik sorunlarını ele almaya odaklanan girişimlere katılmasına veya bu girişimler oluşturmasına yol açıyor.
Popüler ChatGPT yazılımının arkasındaki kuruluş olan OpenAI, devlet destekli beş siber saldırıyı başarılı bir şekilde savuşturmak için birincil yatırımcı Microsoft ile birlikte çalıştı. Rus askeri istihbaratı, İran Devrim Muhafızları, Çin ve Kuzey Kore hükümetleri de dahil olmak üzere bir dizi yabancı güçle bağlantılı olan bilgisayar korsanları, kapsamlı metinsel verilerin analizi yoluyla etkileyici bir şekilde insan benzeri yanıtlar üretebilen yapay zekaya dayalı gelişmiş sistemler olan büyük dil modelleri (LLM'ler) kullanarak becerilerini geliştirmeyi amaçladı.
OpenAI, siber saldırıların Charcoal Typhoon ve Salmon Typhoon olarak bilinen iki Çinli gruptan kaynaklandığını tespit etti. Diğer sızma girişimleri Crimson Sandstorm aracılığıyla İran'la, Emerald Sleet aracılığıyla Kuzey Kore ile ve Forest Blizzard aracılığıyla Rusya ile ilişkilendirildi. OpenAI'ye göre gruplar, GPT-4'ü kurumsal ve siber güvenlik aracı araştırması, komut dosyası oluşturma, kod hata ayıklama, kimlik avı kampanyaları düzenleme, kötü amaçlı yazılım tespitinden kaçınma, karmaşık teknik makaleleri çevirme ve uydu iletişimi ve radar teknolojisini keşfetme gibi çeşitli görevler için kullanmaya çalıştı. Bu faaliyetlerin tespit edilmesi, ilgili hesapların askıya alınmasına yol açtı.
Bu keşif, OpenAI'nin devlet destekli bilgisayar korsanlığı ağları tarafından yapay zeka ürünlerinin kullanımına kapsamlı bir yasak getirmek için harekete geçtiği sırada geldi. Şirket, bu özel girişimleri engellemede başarılı olmasına rağmen, her olası kötüye kullanımı önlemenin devam eden zorluğunun farkındaydı.
ChatGPT'nin piyasaya sürülmesinin ardından yapay zeka tarafından oluşturulan derin sahtekarlıkların ve dolandırıcılıkların artmasının ardından, milletvekilleri üretken yapay zeka geliştiricilerine yönelik gözetimlerini artırdı. OpenAI, yapay zeka siber güvenliği alanındaki ilerlemeleri desteklemek için Haziran 2023'te yapay zeka tabanlı siber güvenlik çözümlerinin etkisini güçlendirmeyi ve ölçmeyi amaçlayan 1 milyon dolarlık bir hibe programı duyurdu.
Bu savunma önlemlerine ve ChatGPT tarafından zararlı veya uygun olmayan içerik oluşturulmasını önlemeye yönelik sürekli çabaya rağmen, bilgisayar korsanları yine de bu engelleri aşmanın yollarını buldular ve bu tür içerikleri oluşturmak için sohbet robotunu manipüle ettiler.
Aralarında OpenAI, Microsoft, Anthropic ve Google'ın da bulunduğu 200'den fazla kuruluş, yakın zamanda Yapay Zeka Güvenliği Enstitüsü ve ABD Yapay Zeka Güvenliği Enstitüsü Konsorsiyumu'nu (AISIC) oluşturmak için Biden Yönetimi ile ortaklık kurdu. Kolektif çaba, yapay zekanın güvenli evrimini teşvik etmek, yapay zeka tarafından üretilen derin sahtekarlıklara karşı koymak ve siber güvenlik zorluklarına katılmak için tasarlanmıştır. Bu girişim, Başkan Joe Biden'ın Ekim 2023'ün sonlarında yapay zeka güvenliğine odaklanan yürütme emrinin ardından oluşturulan ABD Yapay Zeka Güvenliği Enstitüsü'nün (USAISI) lansmanının ardından geldi.
Published At
2/15/2024 11:46:18 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.