Yapay zeka endüstrisinin en kritik isimlerinden biri, sektörün en büyük sırrını ifşa etti. Eski Anthropic araştırmacısı Jacob Coxon, Salı günü yaptığı açıklamada, şirketinden istifa ettiğini ve hem Anthropic hem de eski işvereni OpenAI'in geliştirdiği modellerin insanlığı on yılın sonuna kadar yok edebileceğine inandığını söyledi. Coxon'un bu açıklamaları, yapay zeka güvenliği tartışmalarını yeniden alevlendirdi.
Coxon, X hesabından yaptığı paylaşımda, "Yapay zekayı geliştiren insanlar, bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyor. Bu bir pazarlama gösterisi değil. Aksine, birçok yönetici ve kıdemli araştırmacı basında kulağa mantıklı gelmek için ifadelerini yumuşatıyor - ancak aynı kişilerin özel olarak korkularını dile getirdiklerini duyuyorum. Başka hiçbir insan faaliyeti bu düzeyde bir tehlike oluşturmuyor" ifadelerini kullandı.
Coxon'un uyarıları, Anthropic'in hizalama (alignment) ekip lideri Evan Hubinger ve ölçeklenebilir gözetim bölümünün başındaki Samuel Marks tarafından da şaşırtıcı bir şekilde doğrulandı. Hubinger, şirketin "yapay zekanın tüm insanları öldürebileceğine" gerçekten inandığını ve bu riskin önümüzdeki on yıl içinde yüzde 10'un üzerinde olduğunu düşündüğünü yazdı.
Hubinger, X üzerinden yaptığı paylaşımda, "Anthropic'in elinden gelenin en iyisini yapmaya çalıştığına inanıyorum, ancak süper zekâ için hizalama sorununu çözmek için henüz bir planımız yok ve bu yolda net bir ilerleme kaydettiğimizi de söyleyemem" dedi.
Marks ise kişisel görüşü olduğunu belirttiği paylaşımında, yapay zeka araştırmacılarının "insanlığın yok olması" riskine rağmen teknolojiyi geliştirmeye devam ettiğini, bunun nedeninin finansal teşvikler ve teknolojinin kötüye kullanılabilecek geliştiriciler tarafından üretileceği korkusu olduğunu söyledi.
Marks, "Birçok yapay zeka geliştiricisi, daha güvenli yapay zeka inşa etmenin yollarını bulmak için yavaşlamak istiyor. Ben Anthropic'te güvenlik araştırması üzerinde çalışıyorum çünkü çalışmalarımın bu yok oluş düzeyindeki kötü sonuçların olasılığını azaltacağını umuyorum" ifadelerini kullandı.
Bu açıklamalar, yapay zeka şirketlerinin genel tonundaki değişimi de gözler önüne seriyor. Birçok şirket, pazara girerken yapay zeka modellerinin dönüştürücü potansiyelini överken, şimdi bu modellerin insan kontrolünden çıkma riskine karşı uyarılarda bulunuyor. Anthropic, Haziran ayından bu yana geliştirme hızının yavaşlatılması çağrısında bulunurken, OpenAI geçtiğimiz hafta GPT-6 Astra'nın tanıtımını yapay genel zeka çağına girildiği iddiasıyla birleştirdi ve bu tanıtıma çeşitli uyarılar eşlik etti.
Türkiye'de yapay zeka güvenliği konusu, özellikle son dönemde kamu kurumlarının ve üniversitelerin yapay zeka stratejileriyle birlikte daha fazla gündeme geliyor. Ancak uzmanlar, Türkiye'nin bu alandaki düzenleyici çerçevesinin henüz gelişme aşamasında olduğunu ve küresel ölçekteki bu tür uyarıların yerel politikalar üzerinde doğrudan bir etkisi olmadığını belirtiyor.
Yapay zeka etiği ve güvenliği üzerine çalışan akademisyenler, Türkiye'nin özellikle savunma ve sağlık alanlarındaki yapay zeka yatırımlarını artırırken, bu teknolojilerin potansiyel risklerini de göz önünde bulundurması gerektiğini vurguluyor.
Uzmanlar, yapay zeka geliştiricilerinin hızla ilerlemesi karşısında uluslararası iş birliğinin ve şeffaflığın artırılması gerektiğini savunuyor. Özellikle hizalama araştırmalarına daha fazla kaynak ayrılması ve bağımsız denetim mekanizmalarının kurulması, olası felaket senaryolarının önüne geçebilir.
Anthropic çalışanlarının bu açıklamaları, yapay zeka endüstrisinin içinden gelen en ciddi uyarılar arasında yer alıyor. Şirketlerin bu uyarıları dikkate alıp almayacağı ve geliştirme hızını yavaşlatıp yavaşlatmayacağı ise önümüzdeki dönemde teknoloji dünyasının en önemli gündem maddelerinden biri olmaya devam edecek.
Meta, kullanıcı adına e-posta gönderme, alışveriş yapma ve hedef takibi gibi görevleri üstlenen kişisel yapay zeka ajanı Muse’u tanıttı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
