Teknoloji dünyasında yenilikler hızla gelişirken, yapay zeka (YZ) araçlarının sınırlarını test etmesi hiç durmuyor. Dijital manzara oluşturma ve veriye dayanarak yeni gerçeklikler yaratma potansiyeli yüksek olan bu teknoloji, Google Earth gibi dev platformlara entegre edildiğinde beklenmedik ve ciddi riskler ortaya çıkarabiliyor.
Başlangıçta tarihi mekanları veya kurgusal emlak projelerini görselleştirmek amacıyla sunulan özellik, kısa sürede sınırlarının çok ötesine geçti. Metin tabanlı komutlar (prompt) aracılığıyla Google Earth’ün uydu görüntüsü ve hava fotoğrafçılığı verileri kullanılarak hayal gücü sınırlarını zorlayan görüntülerin üretilebileceğini gördük.
Hizmeti ilk kullananlardan birinin paylaştığı görseller, bu teknolojinin ne kadar güçlü olduğunu gösterdi. Örneğin, Meksika sınırı civarında bulunan 'mülteciler' veya Gazze yakınlarında bir hastane yakınına düşmüş bomba krateri gibi kritik konuları içeren görüntüler yapay zeka yardımıyla oluşturuldu.
Yapay zeka destekli görüntüleme araçlarının en büyük tehlikesi, yanlış bilginin (dezenformasyon) yayılma potansiyelidir. Bir yapay zeka tarafından üretilmiş görüntünün gerçek bir olay ya da mekan hakkında olduğu varsayılırsa, bu dijital yanılgılar hızla toplumsal düzeyde tartışmalara yol açabilir.
Bu durumun farkında olan Google, başlangıçta bu tür dezenformasyon içeren görseller karşısında ciddi yaklaşıldığını belirtti. Şirket tarafından geliştirilen 'Nano Banana' adı verilen ve yapay zeka ile değiştirilmiş her görüntüye SynthID adlı dijital bir filigran ekleme sistemi devreye sokuldu. Bu yöntem sayesinde kullanıcılar, Gemini gibi uygulamaları veya Arama araçlarındaki Lens özelliğini kullanarak görsellerin YZ tarafından mı üretildiğini kontrol edebiliyor.
Ancak teknoloji uzmanları, bu koruyucu mekanizmaların mükemmel olmadığını ve her zaman aşılabilir olduğunu vurguluyor. Uzmanların önerdiği bir çözüm ise tek bir kaynağa bağlı kalmamaktır. Kullanıcılar, şüpheli bir görselle karşılaştıklarında yalnızca yapay zeka kontrolüne değil, Sentinel-2 veya Landsat gibi başka uydu platformlarının verileriyle, görüntünün çekildiği tarih ve hangi uydunun çektiği gibi temel coğrafi verilere de bakarak bağımsız doğrulama yapmalıdır.
Geliştirilen bu özelliğin web tabanlı Google Earth sürümünde küresel olarak tanıtılması, potansiyelini geniş kitlelere ulaştırsa da beraberinde kaçınılmaz riskleri de getirdi. Sphinx ile Özgürlük Heykeli'nin harmanlandığı gibi bariz sahte görüntüler kolayca ayırt edilse bile, nano banana 2 özelliğiyle oluşturulan ve inanılmaz derecede gerçekçi olan görsellerin yanlış bilgi yayma kapasitesi ciddiye alınmalı.
Yapısal bir güvence olsa dahi, dijital filigranların kasıtlı olarak silinebilir veya atlanabilir olması da denetim mekanizmalarını zorlamaktadır. Hatta daha önceki bir olayda Dijital Digging ekibinin yapay zeka destekli değiştirilmiş bir Google Earth videosunu Hive'ın YZ tespit sistemini kandıracak şekilde kullanabildiği vakalar, bu teknolojinin ne kadar ilerlediğini kanıtladı.
Bu riskler ve potansiyel yanlış kullanım alanları üzerine kamuoyu baskısı artınca Google nihai bir karar aldı. Yapay zeka tarafından görüntülere müdahale etme özelliği yayınlandıktan kısa bir süre sonra şirketin web sitesinde yapılan duyurularla bu özelliğin tamamen geri çekildiği açıklandı.
Wesikalarda veya dijital medyada karşılaştığımız her görseli eleştirel gözle incelemek, dijital okuryazarlığın temelini oluşturuyor. Teknolojinin faydaları ne kadar büyük olursa olsun, doğru kullanımı ve etik sorumluluk en önemli öncelik olmalıdır.
OpenAI yönetim kurulunda Sam Altman'ın görevden alınması yönünde oy kullanan Helen Toner, yapay zeka CEO'larına güvenmenin yeterli olmadığını vurguluyor.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
