Google, platformuna entegre ettiği yapay zeka destekli görsel üretim aracı Nano Banana 2 adlı özelliği beklenmedik sorunlar nedeniyle Google Earth sisteminden geçici olarak kaldırma kararı aldı. Şirketin bu hızlı geri çekilme işlemi, yapay zekanın sunduğu yaratıcılık potansiyeline rağmen platformun güvenlik ve güvenilirlik cephesinde karşılaştığı ciddi engelleri gözler önüne serdi.
Nano Banana 2 teknolojisi ilk kez 30 Temmuz tarihinde Google Earth'ün kullanıcılarına tanıtılmıştı. Bu özellik, dünya üzerindeki gerçek konumlar üzerinden kullanıcılara kendi hayal güçleriyle yaratıcı manzaralar oluşturma imkanı sunuyordu. Özellikle coğrafi verilerle ve uydu görüntüleriyle çalışan profesyoneller için büyük bir yenilik olarak bekleniyordu. Ancak bu erken deneme süreci, yapay zekanın kontrol edilemeyen sonuçlar doğurabileceğini kısa sürede gösterdi.
Raporlara göre, Google Earth'e dahil edilen bu yeni nesil yapay zeka aracı tamamen sahte ve gerçeklikten kopuk sahneler üretebiliyordu. Yapılan çeşitli testler sonucunda ciddi güvenlik ihlallerine yol açan görüntüler ortaya çıktı. Örneğin Beyaz Saray önünde devasa boyutlarda Donald Trump heykelleri oluşturulduğu gibi, Meksika sınırına yakın bölgelerde hayali mülteci kampları tasvir edildi.
Sadece bu kadar sınırlı örnekle yetinmedi; İran'da hiçbir gerçeklik düzeyi taşımayan varsayımsal bir nükleer tesis görüntüsü başarıyla oluşturuldu. Bu tür sahte içeriklerin kolayca üretilebilir olması, kullanıcılar nezdinde platformun güvenilirliği konusunda derin soru işaretleri doğurdu. Dahası, Amsterdam gibi büyük şehirlerde asla yaşanmamış kaza ve olayları gösteren kompozisyonların yapılması da bu sorunu pekiştirdi.
Google, resmi X hesabından yaptığı açıklamalarla kullanıcılarını bilgilendirdi. Şirket yönetimi, Google Earth'ü dünya üzerindeki en güvenilir görsel kaydı olarak gören kitlesinin bu tür yanıltıcı içeriklerle karşılaşmasını bir güvenlik ihlali olarak değerlendirdi.
Kullanıcıların yapay zeka ile üretilen ve gerçekmiş gibi sunulmuş sahte görsellerin ekran görüntüsünü alıp dağıtmaya başlaması, platformun orijinal kullanım politikalarını ciddi anlamda tehdit eden bir durum yarattı. Bu risklere yanıt olarak Google, Nano Banana 2'yi hizmet dışı bırakarak daha kapsamlı ve sağlam güvenlik önlemleri geliştirmeye odaklandı.
Google, bu özelliği gelecekte yeniden sunması halinde çok daha gelişmiş kısıtlamalarla yapacağını belirtiyor. Yeni mekanizmaların hangi tür içerikleri engelleyeceğine dair henüz kesin bir açıklama yapılmamış olsa da, mevcut sistemlerde yapay zeka tarafından oluşturulan her içeriğin diğer kullanıcıların ana akışında görünmeyeceği bilgisi paylaşıldı.
Şirket ayrıca bu içeriklerin üretilmiş olduğunu gösteren özel bir filigranla işaretleneceğini de teyit etti. Google Earth'ün geniş kitleler için ne kadar güvenilir bir kaynak olduğu göz önüne alındığında, yapay zeka teknolojilerinin gelişiminin arkasındaki etik sorumluluk ve güvenlik dengesinin nasıl kurulacağı merak konusu olmaya devam ediyor.
OpenAI'da güvenlik alanında çalışan üç araştırmacı, işten çıkarılmadan önce yönetim kuruluna yapay zeka denetimlerinin bağımsız kuruluşlarca yapılması çağrısında bulundu.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
