Yapay Zeka
Anthropic'ten Beklenen Dönüş: Fable 5 Geri Geliyor
Anthropic, ABD hükümetinin ihracat kontrolü nedeniyle askıya alınan Fable 5 ve Mythos 5 modellerini yeniden kullanıma açma hazırlıklarına başladı.
Hexcore
3 dk
Veri Ağına Aktar
Zamanın gerektirdiği beklenmedik duraklamalardan sonra yapay zeka dünyasının gözdesi sayılan Anthropic'in Fable 5 adlı tüketici modelini kullanıcılarına sunma yolunda önemli bir adım attığı duyuruldu.
Bu süreçte, şirketin büyük bir bölümü güvenlik endişeleri ve ihracat kontrolleri sebebiyle piyasadan çekilmişti. Ancak son gelişmeler ışığında Anthropic, Fable 5'e olan erişimi küresel ölçekte yeniden sağlamayı planlıyor. Şirket bu gelişmeyi sosyal medya platformu X üzerinden paylaşarak kullanıcılarına modelin tekrar aktif edileceği tarih ve süreç hakkında bilgi verdi.
Anthropic yönetimine göre Ticaret Bakanlığı’nın son kararıyla, Claude Fable 5 ile Mythos 5 modelleri üzerindeki ihracat kontrolleri kaldırıldı. Bu teknik engeller kalktığı için Anthropic, erişimin yenilenmesi çalışmalarına başladığını bildirdi. Modellerin tekrar kullanıma açılmasıyla ilgili kesin bir zaman dilimi olmasa da, şirketin bu süreci hızlı ve şeffaf bir şekilde yönetmeyi hedeflediği anlaşılıyor.
Fable 5 modeli, Anthropic'in Mythos 5 teknolojisinin üzerine daha fazla güvenlik katmanı eklenerek oluşturulmuş tüketici odaklı versiyonudur. Ancak Ocak ayının başlarında ABD yönetiminin aldığı son bir kararla bu modeller durduruldu. Kararın temelinde yapay zeka modellerinin potansiyel sömürü veya yetkisiz kullanılması anlamına gelen 'jailbreak' denilen güvenlik açıklarının oluşturduğu tehditler yatıyordu.
Yönetim, özellikle yabancı uyruklu ulusal vatandaşların (kurumsal müşterilerdeki Amerika dışındaki çalışanlar ve Anthropic’in kendi uluslararası kadroları dahil) bu gelişmiş yapay zeka modellerini kullanmasını yasaklayan bir ihracat kontrol kararı uygulamıştı. Bu durum, Anthropic için hem teknik bir engel hem de iş modelinde ciddi bir belirsizlik yaratmıştı.
Yasağın temel sebebi olan jailbreak sorunlarına çözüm üretmek amacıyla yapay zeka ekibi büyük bir titizlikle çalıştı. Bu süreçte Anthropic, önerilen güvenliği hedef alan gelişmiş yeni bir güvenlik sınıflandırıcısı eğittiğini açıkladı. Şirketin bu geliştirmesi sayesinde daha önce Amazon araştırmacıları tarafından rapor edilen spesifik teknik açığın %99'dan fazla vakada başarıyla engellendiği belirtildi.
Tüketicilerin Fable 5 modeline ilettiği istekler, güvenlik politikaları nedeniyle reddedildiğinde, ilgili kullanıcıya bu durum bildirilecek ve istek doğrudan Opus 4.8 gibi daha düşük riskli veya önceden onaylanmış modellere yönlendirilecektir. Bu sistemin canlıya alınmasıyla modellerin kullanımından önce çok katmanlı bir kontrol süreci işletilmesi hedeflendi.
Hükümetle olan ilişkilerini iyileştirme çabalarının paralelinde, Anthropic sektörde yeni ve gönüllülük esasına dayalı iş birliği standartları oluşturmayı planlıyor. Şirket, ulusal güvenlik açısından kritik öneme sahip modellerin erken erişimini hükümete sunarak kamu kurumlarının bu teknolojileri geniş kapsamlı testler yapmadan önce bağımsız olarak değerlendirmesi için kapılar açacak.
Ayrıca Anthropic’in Teknik Personeli de bu denemeler sırasında hükümet partnerlerine destek verecek. Şirket, önemli sömürü desenleri veya yanlış kullanım durumları tespit edildiğinde 'hızlı bilgi paylaşımı' mekanizması başlatacağını belirtti.
Anthropic ayrıca sektördeki diğer önde gelen yapay zeka laboratuvarlarıyla ortak çalışarak güvenlik ve değerlendirme alanında gönüllü bir standart oluşturmayı hedefliyor. Belirli öncelikleri gerçekleştirmek için özel ekipler kuracak, hükümet testleri için gerekli hesap gücünü sağlayacak ve güvenlik uzmanlığını (red-teaming çalışmaları dahil) yapay zekanın geleceğini ileriye taşımak adına kullanacağını vurguladı.
Şirket, endişelerin bir fikir birliği olmadığı ancak bu durumun giderek daha büyük bir problem haline geldiğini kaydederek Amazon, Microsoft ve Google gibi dev şirketlerle 'Project Glasswing' bünyesinde çalışarak yapay zekadaki güvenlik açığı değerlendirmesi için evrensel bir çerçeve oluşturmayı amaçlıyor.
Precision Neuroscience, beyin-bilgisayar arayüzü geliştirmek için 250 milyon dolarlık D serisi yatırım aldı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
