Yakın zamanda internette büyük yankı uyandıran bir iddia ortaya çıktı. Bir bağımsız oyun geliştiricisi, yapay zeka sistemi Google Gemini’nin kendi özel Google Belgelerinde (Google Docs) bulunan ve henüz kamuoyuna açıklanmamış bilgilerle eğitim almış olabileceğini öne sürüyor. Bu şüpheler, oyuncuların sistem üzerinden geliştiricinin gizli tuttuğu oyunun erken prototip özelliklerine dair çok spesifik bilgilere erişebilmesiyle başladı.
Bu durum teknik bir veri sızıntısı tartışmasını tetikledi ve kullanıcıların kendi dijital özel verilerinin büyük yapay zeka modelleri tarafından ne ölçüde izlendiği sorusunu gündeme getirdi. Reddit gibi platformlarda paylaşılmış ekran görüntüleri, Gemini’nin bir karakterin adını çok detaylı bir şekilde ifşa ettiğini gösteriyordu; geliştiricinin bu isme daha önce resmi olarak hiç değinmediği belirtiliyor.
Geliştiriciye göre yapay zeka, henüz sadece özel Google Belgelerinde tutulan ve oyuncularla paylaşılmamış mekanik detaylarını bile dökebilmiş durumda. Bu tür inanılmaz derecede doğru bilgileri ifşa edebilmek, Gemini’nin bu verilerin kaynağına ulaşmış olması gerektiği yönündeki şüpheyi güçlendiriyor. Şüpheli bulunan bu olayın ardından birçok teknik forum ve yapay zeka eleştirisi sitesinde büyük bir tartışma başladı.
Google ise genellikle Gemini’nin Google Belgelerine yalnızca kullanıcı tarafından açıkça izin verildiğinde, örneğin bir belge özetleme görevi istendiğinde eriştiğini belirtiyor. Daha da önemlisi, bu tür dosyalara bile geçildiğinde yapay zekanın verileri sadece geçici olarak işlediği ve kalıcı olarak saklamadığı iddia ediliyor.
Yasal yollar dışında bir veri sızıntısı ihtimalini araştıran uzmanlar, bazı istisnalar olduğunu belirtiyor. Eğer bir Google Belgesi ‘Bağlantıya sahip herkes’ tarafından görüntülenecek şekilde herkese açık olarak paylaşıldıysa ve bu bağlantı internette yayınlandıysa (bir forum veya web sayfası üzerinden), yapay zekanın eğitim verisi olarak bu içeriği taraması mümkün olabilir. Ayrıca üçüncü taraf uzantıları kullanarak Google Belgelerindeki verilere erişim izni veren kullanıcılar, dolaylı yoldan Gemini’ye kendi özel dosyaları hakkında bilgi sağlamış olurlar.
Bu risklerin yanı sıra, bir kişinin sahip olduğu dokümanlardaki bilgileri doğrudan Google Gemini ile sohbette paylaşması da sistemin o bilgiler üzerine öğrenmesine neden olacaktır. Bu yöntemle paylaşılan tüm kişisel veriler, yapay zekanın geniş veri tabanına dahil olma potansiyeli taşır.
Geliştiricinin sunduğu bilgilere güvenmek yerine, durumu farklı açılardan değerlendirmek gerek. Yapılan araştırmalar Gemini’nin bazen tamamen yanlış bilgi üretme (halüsinasyon) eğiliminde olduğunu gösteriyor. Bu bağlamda, sistemin sadece bu kadar doğru bilgileri ifşa etmiş olması bir tesadüf olabilir veya geliştiricinin farkında olmadan yapay zekaya veri aktarmış olması da dışarıda kalmayan bir ihtimaldir.
Hatta, ekran görüntülerini paylaşan ekip bu 'tesadüfi' gibi görünen detayları yeniden tetiklemeyi deneyerek başarısız oldu. Bu durum, olayın gerçekten rastgele bir bilgi akışı mı yoksa kasıtlı bir veri taraması mı olduğuna dair kesin bir cevap vermiyor.
Geliştiricinin yaşadığı bu olay ne olursa olsun teknoloji dünyasına çok önemli bir mesaj veriyor: Dijital yaşamımızda kişisel verilerimiz her zaman riske açıktır. Yapay zekanın potansiyel olarak dosyalarımızı tarama ihtimalinden öte, dijital ortamdaki tüm hassas bilgilerimizde siber güvenlik önlemlerini elden bırakmamız gerekiyor. Bir yapay zeka ile veri paylaştığınızda, özel bir bilgi artık ne zaman ve nasıl kullanılacağını sizin kontrolünüz dışında bir sisteme teslim etmiş oluyorsunuz.
Google, Android telefonlarda Google Assistant dönemini kapatarak Gemini'a geçişi geniş kullanıcı kitlesine açtı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
