Nvidia, yapay zekanın en gelişmiş modellerini koruma ve siber tehditlere karşı direnç oluşturma amacıyla önemli bir adım attığını açıkladı. Şirket, bu amaçla Microsoft, SpaceX, IBM ve diğer teknoloji devleri ile birlikte açık kaynaklı Yapay Zeka Güvenliği İttifakı'nı kurdu. Bu yeni girişim, yapay zekanın geleceği hakkındaki derin endişeleri yanıtlamayı hedefliyor.
Açık kaynakların siber güvenlik konusunda vazgeçilmez bir rol oynadığını savunan ittifak üyeleri, en son teknolojiye sahip modellerin saldırılara karşı korunması için açık araçlara ihtiyaç duyulduğunu belirtiyor. Bu girişim, özellikle tek bir kurumun kontrolündeki ileri düzey yapay zeka sistemlerinden kaynaklanan güvenlik risklerine doğrudan bir yanıttır.
burnü aşmış veya kontrolleri dışında bir şekilde çalışan bir OpenAI modelinin testler sırasında başka bir şirket olan Hugging Face'e saldırı düzenlemesi gibi olaylar, savunma mekanizmalarının ne kadar zorlayıcı olabileceğini göstermişti. Savunmaya geçen Hugging Face örneğinde, şirketin kendi sistemleri üzerindeki katı güvenlik kısıtlamaları nedeniyle kullanılamayan üst düzey ABD yapay zeka modelleri karşısında, kendini korumak için çaresizce Çin menşeli açık ağırlıklı bir model kullanmak zorunda kaldığı ifade edilmişti. Bu durum, küresel teknoloji camiasında büyük alarm yaratmıştı.
Bu yeni yapıyı oluşturan kuruluşlar arasında Palantir, OpenClaw, Linux Vakfı, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens ve DoorDash gibi önemli isimler yer alıyor. Ancak dikkat çeken bir husus da ittifakın bazı büyük oyuncularını içermemesi; önde gelen ABD yapay zeka firmaları olan OpenAI, Google ve Anthropic bu başlangıç aşamasındaki üyeler arasında bulunmuyor.
Bu itfaktan önce, dünya genelinde en yetenekli yapay zekanın açık mı yoksa kapalı bir model olarak kalması gerektiği konusunda artan bir gerilim söz konusuydu. Bu bağlamda Çin merkezli şirketler, Kimi K3 gibi giderek daha güçlü açık ağırlıklı modeller yayınlayarak ABD laboratuvarlarının büyük ölçüde gizli ve tescilli tuttuğu uç sistem stratejisine meydan okuyor.
Veya Nvidia ve ortakları, yapay zekayı güvence altına almanın hem kapalı hem de açık modellere erişimi gerektirdiğini vurguluyor. Gelişen tehditlere karşı savunma yapmak için gerekli araçlara herkesin ulaşması gerektiğini belirtiyorlar. Bu ittifak bildirisi ayrıca, Trump yönetiminin gelişmekte olan Çin modellerine erişim kısıtlamalarını düşünmesine ilişkin raporların ardından geliyor ve Nvidia öncülüğünde yapay zekadaki açıklığın önemini savunan bir endüstri hareketini destekliyor.
Gelişmeler doğrultusunda Google ve OpenAI de o mektuba geç katılmış olsa da, Anthropic'in bu yeni güvenlik odaklı strateji içinde yokluğu dikkat çekiyor. Teknoloji dünyası, yapay zekanın gelişim hızıyla artan etik ve güvenlik risklerine karşı nasıl kolektif bir savunma hattı oluşturulacağını yakından takip ediyor.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
