Yapay zeka güvenliği denince akla gelen ilk şirketlerden Anthropic, son günlerde kamuoyunu şaşırtan bir adım attı. Şirketin CEO'su Dario Amodei, 12 Eylül 2026'da yayımladığı uzun bir makalede, sınır yapay zeka şirketlerini, insanlığın sonunu getirebilecek riskler nedeniyle geliştirmeyi yavaşlatmaya çağırdı. Amodei, hayal bile edemeyeceğimiz felaket senaryolarından söz ediyordu. Ancak aradan sadece iki gün geçti ve Anthropic, 14 Eylül 2026'da çok daha somut bir tehlikeye işaret eden bir iş ilanı yayımladı: konvansiyonel silahlar konusunda politika tasarımı yöneticisi arıyordu.
- Anthropic, Safeguards ekibine konvansiyonel silahlar ve otonom sistemler için politika uzmanı alıyor.
- Şirket, Claude'un silah sistemlerinde kullanımına dair sınırları belirleyecek bir pozisyon açtı.
- İlan, yapay zekanın çift kullanımlı teknolojilerdeki risklerini ve etik ikilemleri gözler önüne seriyor.
İlan neden dikkat çekici?
Daybook adlı politika ve kamu işleri odaklı iş platformunda görülen ilan, Anthropic'in Safeguards ekibinde görev alacak bir yönetici arıyor. Şirket bu ekibi, Claude'un nasıl kullanılabileceğine dair sınırları tanımlamak ve korumakla görevli olduğunu belirtiyor. İlan metnine göre bu kişi, Anthropic'in yapay zeka modelinin silahlarla ilgili hangi kullanımlarının meşru olduğunu, hangilerinin sınırı aştığını belirleyecek. İlanın varlığı bile, Claude'un bir şeyleri havaya uçurmak için kabul edilebilir yolları olabileceği fikrini doğuruyor. Bu da yapay zekanın varoluşsal tehditlerine kafa yoran bir şirket için oldukça çelişkili görünüyor.
İlanda şu ifadeler yer alıyor: "Bu alanda kabul edilebilir ve zararlı talepler arasında net bir sınır çizmek zordur, çünkü temel bileşenler çift kullanımlıdır: sivil mühendislik ve araştırmaya hizmet eden yetenekler, bir silah sistemine de katkıda bulunabilir. Konvansiyonel silahlar giderek daha fazla yazılımla tanımlanıyor ve riskler ateşli silahların çok ötesine geçiyor: bir modelin silah sistemini çalıştırmasından rehberlik kodu yazmasına, çift kullanımlı platformların silahlandırılmasına kadar. Bu rol, insan yetkilendirmesi olmadan hedef seçen ve angaje eden otonom sistemlere kadar her silah sınıfını kapsıyor."
Anthropic'in kırmızı çizgileri nerede başlıyor?
Anthropic, otonom silah sistemleri konusundaki kırmızı çizgisini korumakla övünüyor. Şirket, insan müdahalesi gerektirmeyen silahlarda modellerinin kullanılmasına izin vermeyerek Pentagon ile ilişkilerini bozmuştu. Ancak iş, bir kişinin düğmeye basmasını gerektiren silahlara gelince şirketin tutumu çok daha esnek görünüyor. Reuters'a göre Anthropic'in yapay zeka araçları, ABD'nin İran'a yönelik saldırısında kullanıldı. Wall Street Journal'ın haberine göre ise teknoloji, Venezuela Devlet Başkanı Nicolás Maduro'nun yakalanmasıyla sonuçlanan ABD operasyonunda da kullanıldı.
Amodei'nin endişe verici mektubu, otonom ya da değil, silah sistemlerinden hiç bahsetmiyor. Oysa yapay zeka bu alanlarda şimdiden entegre ediliyor ve insanları öldürüyor. Amodei'nin mektubu daha çok, kontrol edilemeyen bir yapay zekanın insanlığı yok etme ihtimaline odaklanıyor. Bu da akıllara şu soruyu getiriyor: Şirket, bir yandan insanlığın sonunu getirebilecek bir teknolojiyi yavaşlatmaya çalışırken, diğer yandan bu teknolojinin silahlarda nasıl kullanılacağını mı tartışıyor?
Türkiye'yi nasıl etkiler?
Anthropic'in bu hamlesi, yapay zeka etiği ve silah teknolojileri arasındaki gerilimi gözler önüne seriyor. Türkiye'de savunma sanayii yapay zeka destekli sistemlere yönelirken, benzer etik tartışmalar kaçınılmaz hale geliyor. Şirketin bu ilanı, küresel yapay zeka politikalarında çift kullanımlı teknolojilerin nasıl düzenleneceğine dair önemli bir örnek teşkil ediyor. Anthropic'in atacağı adımlar, diğer yapay zeka devleri için de bir referans noktası olabilir.
Sonuç olarak Anthropic, bir yandan insanlığın sonunu getirebilecek yapay zeka senaryolarına karşı uyarıda bulunurken, diğer yandan bu teknolojinin silahlarda kullanımına dair sınırları belirleyecek bir uzman arıyor. Bu çelişki, yapay zeka güvenliği konusundaki tartışmaların ne kadar karmaşık ve katmanlı olduğunu bir kez daha gösteriyor.
