Google, dünyayı uzaydan izlememizi sağlayan Google Earth platformuna entegre ettiği yapay zeka (AI) görsel oluşturma özelliğini hızla geri çekme kararı aldı. Bu hamle, dijital harita servisinin temel direği olan güven fikri üzerinde ciddi bir sorgulama sürecini tetikledi. Yapay zekanın gerçek dünyadaki olayları simüle edebilme yeteneği ile sahte görseller üretme riski arasında kurulan denge, beklenenden çok daha çabuk bozuldu.
Geliştirilen bu özellik, başlangıçta jeo-uzamsal profesyonellerin çeşitli bilimsel ve yaratıcı amaçlar için kullanılmasına olanak tanımasıyla dikkat çekiyordu. Ancak testler sırasında ortaya çıkan sorunlar, teknolojinin kamu güvenliğini tehdit etme potansiyelini gün yüzüne çıkardı.
Google tarafından geliştirilen ve dijital filigran (watermark) olarak işleyen SynthID sistemi, görsellerin yapay zeka ile üretilip üretilmediğini tespit etmeyi amaçlıyor. Harici testler, bu sistemin kapsamlı görsel düzenlemeler veya veri kayıpları olsa bile bir miktar kalıntı bırakabildiğini gösterdi. Ancak sorunun gölgesi hızla büyüdü ve kullanıcılar tarafından gün içinde sınırlı sayıda kontrol yapılabilmesi gibi operasyonel kısıtlamaların farkına varıldı.
Uzmanların işaret ettiği en büyük risk, Google Earth'ün sahte yapay zeka üretimi görsellerle lekelenmesidir. Bir şirketin dünyaya dair sunduğu gerçeklik iddiası sarsıldığında, bu durum genel kamuoyu nezdinde güven kaybına yol açar. Daha da önemlisi, bu tür bir yetkinliğin sunulması; hükümetler ve ilgili kişi tarafından doğrulanamayan uydu görüntülerine karşı "Bu içerik yapay zeka ile üretilmiş olmalı" gibi itirazlarda bulunmak için ek gerekçe yaratma potansiyeli taşıyor.
Yapay zekanın gerçek dünya olaylarını canlandırması, gazeteciler ve araştırmacılar açısından bir çift kılıç etkisi oluşturuyor. Onların yürüttüğü dezenformasyonla mücadele çalışmaları daha da zorlaşıyor. Yapay zeka ile üretilmiş görsellerin ayırt edilmesinin yalnızca otomatik sistemlere güvenmek yeterli olmayacağı her türlü senaryoda kanıtlanmış durumda.
Görsel sahteciliğinin (fake) temiz dosyalar halinde, bütün kimlikleriyle ulaşması mümkün değil. Bu görüntüler genellikle ekran kayıtları, yeniden kodlamalar veya başkasının telefonundan aceleyle çekilen ekran görüntüleri şeklinde yayılıyor. Gerçek hayatta bir yapay zeka ürününe karşı savunma yapmak için en etkili yolun yalnızca tek bir algoritmanın dijital filigranına güvenmek olmadığı anlaşılıyor.
Gelişmeler doğrultusunda, profesyonel çevreler artık sadece Google gibi platformların AI araçlarına dayanmak yerine birden fazla kaynaktan doğrulama yapmayı ve Avrupa'nın Copernicus Sentinel-2 gibi sürekli güncellenen uydu görüntü kaynaklarını kullanmayı tavsiye ediyor.
Google, bu endişelere karşı kısa vadeli bir rahatlama sağlamak için özelliği hızla kaldırdı. Ancak şirket yaptığı açıklamada gelecekte özelliğin tekrar getirilme ihtimalini de beraberinde bıraktı. Google, jeo-uzamsal uzmanların faydalı amaçlarla kullandığını belirtse de aynı zamanda politika ihlali yapan ekran görüntüleri paylaşıldığını kabul ederek daha güçlü koruma mekanizmalarının (guardrails) oluşturulması için çalışacaklarını belirtti.
OpenAI yönetim kurulunda Sam Altman'ın görevden alınması yönünde oy kullanan Helen Toner, yapay zeka CEO'larına güvenmenin yeterli olmadığını vurguluyor.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
