Anthropic kurucusu ve yapay zeka alanındaki önde gelen isim Dario Amodei, son dönemde açık ağırlıklı (open-weight) modellerin yasaklanması gerektiği yönündeki tartışmalara sert bir yanıt verdi.
Amodei, Pazartesi günü yayımlanan blog yazısında, Anthropic’in hiçbir zaman bu tür açık kaynaklı yapay zeka modellerinin tamamen yasaklanmasını savunmadığını net bir şekilde belirtti. Bu açıklama, özellikle dünya genelinde yapay zekâ politikaları üzerindeki yoğun tartışmalar ve Çin merkezli şirketlerin güvenlik iddiaları üzerine gündeme oturmuşken geldi.
![Haber
Model ismini ne olduğuyla değil, sunduğu tehditle değerlendirilmesi gerektiğini vurgulayan Amodei, açık ağırlıklı modeller ile ulusal güvenlik risklerinin ayrı kategorilerde ele alınması gerekliliğini dile getirdi. Bu tür yapay zekâ sistemleri aslında kamu yararına hizmet eden araçlar niteliğinde olup geliştiriciler ve araştırmacılar için kritik değerler sunuyor.
Açık Modeller Güvenlik İçin Gereksinim mi?
![Haber
Daha önceki değerlendirmelerinde de bu görüşünü paylaşan Amodei, güvenlik kaygıalarının odak noktasının açık ağırlıklı modeller değil, tehlikeli yeteneklere sahip olmaması gerekmeyen yapay zeka sistemleri olduğunu hatırlattı. Basit modellerin sadece çalışması için gereken işlem gücüne ihtiyaç duyduğunu belirten kurucu, bu tür yazılımların geliştiriciler ve işletmeler açısından hayati bir öneme sahip olduğunu ifade etti.
Anthropic’in aslında itiraz ettiği nokta sistemlerin varlığı değil, belirli koşullar altında ortaya çıkabilecek ciddi güvenlik riskleri olan modellerdir. Bu riskler, yapay zekânın sadece siber saldırıları artırmasıyla sınırlı kalmıyor; aynı zamanda biyolojik tehditler oluşturabilecek seviyeye gelmesiyle ilgili derin endişeler barındırıyor.
![Haber
Asıl Risk Otoriter Yönetimlerde
Dario Amodei, uzun zamandır dile getirdiği en büyük güvenlik kaygısının açık modeller üzerinden değil, otoriter yönetimlerin askeri kapasite geliştirmesi olduğunu belirtti. Ona göre asıl tehdit, ABD’den daha üst düzey yapay zekâ sistemleri yaratarak kalıcı bir askeri üstünlük elde etmeleri veya bu teknolojileri kendi vatandaşlarını baskı altında tutmak için kullanma ihtimeleridir.
Bu riski sadece Çin ile sınırlamadığını belirten Amodei, aynı zamanda dünyadaki diğer otoriter yönetimlerin de potansiyel tehlike oluşturduğunu vurguladı. Ancak teknolojik kapasite açısından bakıldığında Çin Komünist Partisi'nin bu alandaki en güçlü aktör olduğu görüşünü savundu.
Uluslararası Ortak Güvenlik Standartları Şart
![Haber
Yapay zekâ teknolojileri hızla gelişirken, Amodei güvenlik protokollerinin zorunluluğunu ve izlenmesini ön plana çıkardı. İngiltere Yapay Zeka Güvenlik Enstitüsü’nün yayımladığı raporlara atıfta bulunan CEO, açık ağırlıklı modellerin piyasaya sürüldükten sonra geri çekilemesinin neredeyse imkânsız olduğunu hatırlattı. Bu durumun özellikle yüksek riskli yapay zekâ sistemleri söz konusu olduğunda büyük bir dikkat gerektirdi.
Sektörün genelini kapsayan kapsamlı ve erken aşamada kısıtlamalar getirilmesi çağrısının aksine, Amodei ortak uluslararası güvenlik test mekanizmalarının oluşturulması gerektiğini öneriyor. En gelişmiş yapay zekâ sistemlerinin menşei veya kapalı mı yoksa açık bir model olması fark etmeksizin aynı sıkı güvenlik denetimlerinden geçmesi gerektiği fikri üzerinde duruyor.
Bu yaklaşım, güçlü modellerin tek bir şirketin elinde toplanmasının riskli olduğu ve araştırmacıların açık yapılar sayesinde potansiyel tehditleri tespit edip savunma mekanizmaları geliştirebileceği yönündeki yapay zeka açık kaynak savunuculuğu görüşleriyle örtüşüyor. Tartışmanın temelindeki düğüm, erişilebilirliği artırmak ile ulusal güvenliği sağlamak arasındaki hassas dengenin nasıl kurulacağı sorusu haline geldi.