Google, platformunun gücünü yapay zeka ile birleştirme girişimiyle büyük yankılar uyandırdı. Şirket tarafından tanıtılan yeni özellik, kullanıcıların gerçek dünyadaki uydu görüntülerini değiştirerek özel görseller oluşturmasına olanak tanıyordu. Bu özelliğin ana motoru Nano Banana 2 adı verilen yapay zeka modeliydi. Google Earth Ürün Yöneticisi Bryan Horowitz'in bir blog yazısı aracılığıyla duyurduğu bu yenilik, ilk başta tasarım ve eğitim amaçlı kullanımlar üzerinden olumlu karşılık bulsa da çok kısa sürede ciddi etik sorgulamaların merkezine oturdu.
Google Earth gibi coğrafi veri tabanlı araçlar genellikle doğrulama ve araştırma amacıyla kullanılıyor. Ancak sunulan yeni özellikler ile gerçek dünyanın uydu fotoğrafları, metin komutları aracılığıyla yapay zekaya sürüklenerek tamamen değiştirilebiliyordu. Bu durum, özellikle haber kuruluşlarının ve gazetecilerin doğrulama (fact-checking) çalışmalarına doğrudan bir tehdit oluşturması sebebiyle kısa sürede büyük tepiler aldı.
Gelişmeler üzerine bağımsız araştırma kurumları, özelliğin ne kadar kolay suiistimal edilebileceğini gösteren somut örnekler paylaştı. Bağımsız araştırmacılar tarafından yapılan denemeler sonucunda, sadece birkaç cümlelik komutlarla gerçek Google Earth uydu görüntüleri üzerinde dramatik değişiklikler yapıldığını ortaya koydular. Örneğin, Meksika sınırına mülteci kampı eklemek veya İran topraklarında nükleer tesis konumlandırmak gibi olaylar saniyeler içinde sisteme yansıtılabiliyordu.
Bu kolaylık, özellikle de siyasi ve sosyal bir etki yaratma potansiyeli taşıyan anlatılar oluşturulması açısından büyük endişe kaynağıydı. Özelliğin sadece sanal binalar eklemekle kalmayıp, gerçek olaylara dayalı yeni sahneler üretebilmesi, yanlış bilginin üretilmesi süreçlerini inanılmaz derecede hızlandırıyordu.
Tepkiler o kadar hızlı geldi ki Google, özelliğin duyurulmasından sonra sadece bir gün gibi kısa bir süre içinde bu sistemi tamamen geri çekti. Şirket, X (eski adıyla Twitter) platformunda yaptığı açıklama ile düzeltmeyi teyit etti ve kullanıcılar da artık Google Earth üzerinden Nano Banana özelliği kullanamıyor olmalarını doğruladı.
Geliştiriciler başlangıçta özelliğin tamamlanmamış emlak projelerinin görselleştirilmesi veya tarihi mekanların eski hallerini canlandırmak gibi yapıcı kullanım alanlarını vurgulamıştı. Ancak araştırmacı topluluğu, potansiyel kötüye kullanımı mercek altına alarak şirketi uyarmaya devam etti.
Gelişmelerin ardından Google bir savunma mekanizması devreye soktu: SynthID. Şirkete göre üretilen her yeni yapay zeka görselinde, içerik yapay zeka tarafından oluşturulduğunu veya düzenlendiğini belirten dijital bir filigran bulunuyor. Bu sayede kullanıcıların Gemini veya Google Lens gibi araçları kullanarak görsellerin orijinalliğini kontrol etmeleri sağlanabiliyordu.
Ancak bağımsız araştırmacılar bu koruma mekanizmasına da şüpheyle yaklaştı. SynthID'nin bazı düzenlemelere karşı başarılı olduğunu kabul etmekle birlikte, Gazze'deki bombalanmış hastane sahneleri gibi hassas konularda arızalanabildiğini belirtti. Dahası dijital filigranın güvenilirliğini azaltacak bir başka kritik bulgu da, bu görsellerin ekran kaydı alınması veya normal kamera ile yeniden çekilmesi durumunda doğrulama sisteminin devre dışı kalabilmesi oldu.
Uzmanlar, Google Earth gibi köklü bir coğrafi bilgi sistemine yapay zeka tabanlı manipülasyon araçlarının eklenmesinin platformun temel güvenilirlik algısını zedelediğini vurguluyor. Coğrafi bilgileri doğrulamak için uzun yıllardır kullanılan bu kaynakta şüphe doğması, hem kamuoyunu hem de akademik çevreleri endişelendiriyor.
Google, geri çekme kararını açıklarken bu tür içeriklerin şirket politikalarını ihlal ettiğini ve daha güçlü güvenlik önlemleri geliştirilene kadar özelliğin kaldırıldığını belirtti. Özelliğin sadece kısa vadeli bir kriz sonlandırma hamlesi olup kalıcı bir çözüm sunup sunmayacağı ise merak konusu olarak kalmış durumda.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
