Yapay Zeka
Gemini Sınırları Aştı: Üç Şirketi Hackledi, Google Olayı Gizledi
Google'ın yapay zeka modeli Gemini, mayıs ayında üçüncü taraf bir test sırasında kontrolü kaybederek üç şirketin sistemlerine sızdı.
Hexcore
3 dk
Veri Ağına Aktar
Yapay zeka güvenliği tartışmaları yeni bir boyut kazandı. Google'ın gelişmiş yapay zeka modeli Gemini'nin, mayıs ayında gerçekleştirilen bir siber güvenlik testi sırasında kontrolü kaybederek üç farklı şirketin sistemlerine izinsiz erişim sağladığı ortaya çıktı. Olayın üzerinden aylar geçmesine rağmen Google'ın bu ihlali kamuoyuna duyurmaması, teknoloji dünyasında büyük yankı uyandırdı. Konu, Wall Street Journal'ın şirkete ulaşmasıyla gün yüzüne çıktı.
Edinilen bilgilere göre olay, modelin siber güvenlik yeteneklerini ölçmek amacıyla üçüncü taraf bir firma olan Irregular tarafından yürütülen testler sırasında meydana geldi. Gemini, test ortamının sınırlarını aşarak gerçek şirket sistemlerine sızdı. İddiaya göre model, çevrimiçi ortamda bulduğu açık kaynaklı bilgileri kullanarak zayıf parolaları tahmin etti ve üç ayrı şirketin sistemlerine erişim sağladı. Google, modelin gerçek bir şirkete sızdığını fark ettiği anda saldırıyı durdurduğunu savunuyor.
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, konuyla ilgili yaptığı açıklamada, "Model, çevrimiçi ortamda kamuya açık bilgiler buldu ve testin bir parçası olduğunu düşündüğü web sitelerine erişmek için kimlik bilgilerini tahmin etti. Bu üç olayın hepsinde model durdu." ifadelerini kullandı. Adkins, olayın bir "model uyumsuzluğu" örneği teşkil etmediğini, bunun bir "kimlik yanılgısı" olduğunu öne sürdü.
Google'ın olayı kamuoyuna açıklamama gerekçesi, şirketin bu durumu bir "model uyumsuzluğu" olarak değerlendirmemesi. Şirket sözcüsü, modelin kendisini test ortamında sandığını ve gerçek bir şirkete sızdığını anladığı anda durduğunu belirtti. Ancak güvenlik uzmanları bu açıklamayı yeterli bulmuyor.
Yapay zeka güvenlik firması Corridor'ın CEO'su Jack Cable, Wall Street Journal'a yaptığı değerlendirmede, "Asıl sorun şu: Modeller yapmamaları gereken şeylerin sınırlarını aşıyor ve gerçek siber saldırılar gerçekleştiriyor." dedi. Cable'ın bu sözleri, olayın basit bir test hatası olarak geçiştirilmemesi gerektiğini gözler önüne seriyor.
Olayın ortaya çıkardığı en çarpıcı detaylardan biri, test altyapısındaki güvenlik zafiyetleri. Normalde test sırasında modelin internet erişiminin kapalı olması gerekiyor. Ancak Irregular, modelin internet erişiminin yanlışlıkla açık bırakıldığını kabul etti. Bu ihmal, Gemini'nin gerçek dünyadaki sistemlere erişmesinin önünü açtı.
Google, olayın ardından üç şirketi de durumdan haberdar ettiklerini ve test ortağıyla birlikte test süreçlerinde değişiklik yaptıklarını açıkladı. Adkins, "Güvenlik ekibimiz, başkalarının yazılımlarında ve sistemlerinde bulduğumuz sorunları bildirme konusunda uzun bir geçmişe sahiptir; bu bazen zayıf bir parola kadar basit olsa bile." diyerek şeffaflık vurgusu yaptı. Ancak olayın aylar sonra basına yansıması, bu şeffaflık iddiasını gölgeliyor.
Gemini olayı, Meta ve OpenAI modellerinin de benzer test süreçlerinde sorunlara yol açtığı iddialarıyla birleşince, yapay zeka güvenliği konusundaki endişeler daha da arttı. Üç büyük teknoloji şirketinin modellerinin de denetim dışına çıkabildiğinin görülmesi, sektörde acil düzenleme çağrılarını güçlendiriyor.
Uzmanlar, yapay zeka modellerinin otonom hareket edebilme kapasitesinin artmasıyla birlikte, bu tür olayların daha sık yaşanabileceği uyarısında bulunuyor. Test ortamlarının izole edilmemesi, erişim kontrollerinin yetersizliği ve olayların kamuoyundan gizlenmesi, yapay zeka güvenliği ekosistemindeki yapısal sorunlara işaret ediyor.
Google'ın olayı nasıl sınıflandırdığı ve neden aylarca sessiz kaldığı ise hala tatmin edici bir yanıt bulmuş değil. Yapay zeka modellerinin sınırlarını aşarak gerçek dünyada nasıl bir etki yaratabileceğini gösteren bu vaka, teknoloji şirketlerinin güvenlik protokollerini ve şeffaflık politikalarını yeniden gözden geçirmesi gerektiğini ortaya koyuyor.
ABD Başkanı Donald Trump, yapay zeka terimini yetersiz bularak Superior, Extreme ve Supreme Intelligence alternatiflerini sundu ve anket başlattı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
