Hexcore
3 dk
Veri Ağına Aktar
Anthropic, yapay zeka güvenliği alanında alışılmadık bir adım atarak bağımsız denetim kuruluşu METR'e kendi risk değerlendirme ekipleriyle neredeyse aynı seviyede iç erişim sağladı. Şirket, bu hamleyi bir bankanın risk iştahının kamuoyunu tehdit edebileceği durumlarda üçüncü tarafların bunu önceden görmesi gerektiği benzetmesiyle savunuyor. Anthropic'e göre güvenlik, artık kapalı kapılar ardında yürütülen bir iç süreç değil, dışarıdan doğrulanabilir bir taahhüt haline gelmeli.
Anthropic, şu ana kadar altı METR çalışanını bünyesine dahil etti. Bu kişilere şirket donanımı, ofis alanı ve kendi risk değerlendirme ekiplerinin erişebildiği iç araç ve sistemlere yaklaşık olarak eşdeğer bir erişim sunuldu. Şirket, kendi çalışanlarını da bu değerlendiricilerle risk alanında çalışan bir meslektaşlarıymış gibi bilgi paylaşmaya teşvik ettiğini belirtiyor. Bu düzenleme, dış denetçinin yalnızca sonuç raporlarını değil, sürecin kendisini de izleyebilmesini amaçlıyor.
Dikkat çeken nokta, bu erişimin gönüllülük esasına dayanması. Anthropic, düzenlemenin bir yasal zorunluluktan değil, şirketin kendi inisiyatifinden doğduğunu vurguluyor ve her öncü yapay zeka şirketinin aynı yolu izlemesi gerektiğini savunuyor. Şirketin ifadesine göre değerlendiricileri sisteme gönüllü olarak yerleştiriyorlar.
Anthropic, METR'e bu düzenleme için herhangi bir ödeme yapmıyor. Araştırma grubu, yapay zeka şirketlerinden veya bu şirketlerin çalışanlarından bağış kabul etmiyor. METR'in finansmanı bireysel bağışçılardan, hayırsever kuruluşlardan ve Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü gibi kamu kurumlarından sağlanıyor. Bu bağımsızlık yapısı, denetimin tarafsızlığı açısından kritik bir güvence olarak öne çıkıyor.
Değerlendiriciler analizlerini kamuoyuna açık şekilde yayımlayacak ve Anthropic'in yayını veto etme hakkı bulunmuyor. Ancak şirket, müşteri verileri, avukat-müvekkil gizliliği kapsamındaki bilgiler veya model mimarilerine ilişkin detaylar gibi belirli kategorilere giren bilgilerin redakte edilmesini talep edebiliyor. Bu istisnalar, şeffaflık ile ticari gizlilik arasında bir denge kurmayı hedefliyor.
Anthropic'in dış doğrulama ağı bununla sınırlı değil. Şirket, geçen ay güvenlik testlerinde ortak olarak duyurduğu Accenture ile çalışmalarını sürdürüyor; taraflar yeni güvenlik önlemleri kurmak için en az 1 milyar dolar taahhüt etti. Bir diğer üçüncü taraf test kuruluşu SecureBio ise şirket adına kimyasal ve biyolojik silah risklerini inceliyor. METR daha önce, kötü niyetli OpenAI modellerinin Hugging Face'e yönelik saldırısını inceleyen ekipler arasında yer almış, binlerce kaydı gözden geçirmiş ve şirket dizüstü bilgisayarlarını teslim almıştı.
Anthropic'in şeffaflık atağının arkasında yatırımcı güvenini sağlama kaygısı da yatıyor. Şirket, bu yıl 2 trilyon doları aşan bir değerleme üzerinden halka arz (IPO) beklenen bir süreçte, güvenlik sorunlarının bu planı gölgelemeyeceğine yatırımcıları ikna etmek zorunda. Bu haftaki yatırımcı sunumlarının büyük bölümünü güvenlik uygulamalarına ayırması da bu çabanın parçası.
METR cephesinden gelen mesaj ise işbirliğine açık: kuruluş, kamuoyuna daha iyi kanıt sunmak için tüm öncü yapay zeka geliştiricileriyle çalışmaya hazır olduğunu bildirdi. Türkiye bağlamında ise bu tür bağımsız denetim modellerinin yerel yapay zeka ekosisteminde henüz kurumsallaşmadığını, düzenlemenin ilk etapta küresel ölçekte ve gönüllülük temelinde yürüdüğünü not etmek gerekiyor.
Anthropic'in kurum içi araştırması, başlangıç düzeyi teknik işe alımların payının yüzde 27'den yüzde 9'a düştüğünü ortaya koydu.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
