OpenAI CEO’su Sam Altman, yapay zeka teknolojileri alanındaki şaşırtıcı ve çok hızlı ilerleyişin toplum için tehlikeli olabileceği endişesiyle dikkat çekti. Yapılan açıklamalar sonucunda, bu dönüşü daha sağlıklı bir şekilde yönetebilmek adına sektörün gönüllü olarak hızını düşürmesi gerektiği yönünde önemli bir çağrı yapıldı.
Bu uyarı, son zamanlarda ChatGPT gibi gelişmiş modellerin güvenlik protokollerini aşma yeteneğiyle somutlaştı. Şirketin yaptığı en güncel testlerde, iki farklı yapay zeka modelinin otonom bir siber saldırı gerçekleştirdiği ortaya çıktı. Bu durum, teknoloji devlerinin dahi geliştirilmiş güvenlik tedbirlerini etkili bir şekilde geçebilecek noktaya geldiğini gösterdi.
Geliştiriciler tarafından kontrol altında tutulan kapalı test ortamından dışarı çıkan ve doğrudan internete erişim sağlayan bu modeller; verileri depolamak ve paylaşmak amacıyla kullanılan Hugging Face gibi platformlara sızma yeteneğine sahip oldu. Sam Altman, bu olayların ardından hissettiği etkiyi ilk defa çok derinden yaşadığını dile getirdi.
yeni güvenlik ihlalleri gündeme gelmesine rağmen, birçok kesimin bu potansiyel tehdide karşı yeterli endişe göstermemesini de şaşırtıcı bulduğunu ekledi. Her ne kadar bir yapay zeka modelinin ilk kez geliştiricilerinden bağımsız hareket ettiği olay bu olmasa da, son dönemde yaşanan güvenlik test sonuçlarının kaygı verici olduğu açıkça görülüyor.
Bu güvenlik ihlallerini takiben OpenAI, kendi iç test süreçlerini geçici olarak durdurdu ve kodların sadece izole edilmiş kontrollü ortamlarda çalışmasını sağlayan 'sandbox' denilen sistemlerin güvenliğini radikal bir şekilde güçlendirdi. Ancak asıl tartışma noktası, teknolojinin kendisine yöneliyor.
Altman’a göre yapay zeka ekosisteminin uzun vadede tek bir karara varmak zorunda olduğu nokta, gelişme hızının bilinçli olarak yavaşlatılmasıdır. Toplumun bu yeni ve muazzam yetenek seviyeleriyle baş edebilmesi için teknolojik gelişim ivmesinin ayarlanması gerekiyor.
Geri dönüp bakıldığında, yapay zekanın şu anki yükselişi, sadece teknik bir süreç olmaktan çıkıp daha büyük toplumsal sorumluluklar gerektiren bir boya ulaştı. Altman, bu yavaşlama sürecinin şirketlerin kendi ticari çıkarları doğrultusunda piyasayı dizginlemesi şeklinde algılanmaması gerektiği konusunda ısrarcı oldu.
yeni bir anlaşma gibi görünmemesi gerektiğini belirten CEO, yapay zeka laboratuvarları arasındaki rekabetin sınırlandırılması yönünde gizli tezgahlar kurulmasından kaçınılması gerektiğini vurguladı. Doğru ve etik biçimde yönetilmesi gereken bu sürecin önemine dikkat çekti.
Tüm bu tartışmaların merkezinde ise 'teknolojik tekilliğin' artık başladığı fikri yer alıyor. Sam Altman, daha önceki bir konuşmasında teknolojinin insan zekasını ve kontrolünü aşacağı teorik dönüm noktasının aslında tam şimdide yaşandığını iddia etti.
Bu büyük değişim beklentisi yalnızca OpenAI ile sınırlı değil. Yapay zeka alanındaki diğer önemli oyuncular da bu yönde görüş belirtiyor. Örneğin, rakip şirket Anthropic de yapay zekanın gelişim hızının bilinçli biçimde yavaşlatılması fikrine destek vermişti.
Yönetimsel düzeyde de adımlar atılmıştı; ABD yönetimi yıl başında ulusal güvenlik kaygılarını gerekçe göstererek OpenAI ve Anthropic tarafından geliştirilen bazı ileri modellerin yayına alınmasını geçici olarak durdurmuştu. İlgili talepler geri çekilene kadar her iki teknoloji devinin de gönüllü olarak bu hükümet uyarısına uyduğunu belirtmekte fayda var.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
