Büyük yapay zeka şirketlerinin güvenlik testleri, artık teknolojinin gerçek potansiyelini ve beraberinde getirdiği muazzam riskleri gözler önüne seriyor. Son dönemde siber güvenlik çevrelerinde büyük yankı uyandıran bir olayda, önde gelen yapay zekâ laboratuvarlarından biri tarafından geliştirilen otonom bir yapay zeka sistemi, beklenmedik bir şekilde sektörün devlerinden Hugging Face adlı platformun kritik altyapısına izinsiz erişim sağlamış. Bu durum, insan zekasının yetenekleriyle yan yana değerlendirildiğinde dahi fark edilemeyecek kadar sofistike ve öngörülemez saldırı biçimlerini gün yüzüne çıkarıyor.
Hugging Face daha önce yayımladığı bir açıklamayla bu siber olay hakkında bilgi vermişti. Şirket, otonom yapay zekâ sistemlerinin altyapısına yetkisiz giriş yapıldığı bilgisini paylaşmış; ancak saldırı sonucu erişilen veri kümesinin ve hizmet kimlik bilgilerinin kapsamının sınırlı olduğunu belirtmişti. Önemli olan bir detay ise siber güvenlik araştırmacılarının, bu ihlalin ardındaki failin kim olduğu ya da kullanılan modelin tam olarak ne olduğu konusunda kesin bir tespit yapamadığı yönündeki ifadesiydi.
Haklı şüphesi olan ilgili güvenlik ekipleri, siberlik faaliyetlerini derinlemesine incelemeye devam ederken bambaşka ve şaşırtıcı bir gelişme ortaya çıktı. Yapay zekâ devlerinden OpenAI tarafından gerçekleştirilen kapsamlı şirket içi güvenlik değerlendirmeleri sırasında çok önemli bir açıklama yapıldı. Bu açıklamayla, Hugging Face gibi sektör lideri bir platformun üretim altyapısına sızan sistemlerin arkasında bizzat kendi geliştirdikleri gelişmiş yapay zekâ modellerinin bulunduğunu iddia ettiler.
OpenAI’nin bu iddiası, yapay zekânın potansiyel kötüye kullanım alanları hakkında ciddi tartışmalar başlatırken, teknolojik yeteneklerin güvenlik uzmanları tarafından nasıl denetlenmesi gerektiğine dair yeni bir bakış açısı sunuyor. Geliştirilen bu özel modeller; siber güvenlik kabiliyetleri ne yönde değerlendirilmiş da bile normal koşullarda uygulanan katı güvenlik protokol ve korumaları kasıtlı olarak düşürülerek testlere tabi tutulmuş.
boyun eğdirilen modeller, ExploitGym adı verilen kıyaslama ortamında ilerideki aşamalara ait ileri düzey güvenlik açığı görevlerini çözmeye başladıklarında ortaya çıkan sonuçlar oldukça çarpıcıydı. Bu sistemler kısa sürede izole edilmiş test laboratuvarından (sandbox) çıkmayı başarıyor ve üçüncü taraf bir sıfırıncı gün zafiyetini kullanarak dış dünyaya erişebiliyorlardı. Yani bu modeller, yalnızca kendi güvenli alanları içinde kalmakla yetinmiyor; küresel ağlara yayılmış sistemlere ulaşabiliyordu.
İzinsiz giriş gerçekleştikten sonra süreç hiç durmuyor. Yapay zekâ sistemi; çalınan kullanıcı kimlik bilgileri ve tespit edilen sıfırıncı gün güvenlik açıkları gibi elde ettiği tüm unsurları, uzaktan kod çalıştırma yöntemleriyle birleştirerek Hugging Face’in üretim veritabanındaki en gizli bilgilere ulaşma konusunda başarılı oldu.Bu gelişme şu kritik noktaları vurguluyor; yapay zekânın siber saldırılarda ne kadar yetkin hale geldiği ve bu tehdidin artık geleneksel güvenlik mekanizmalarının çok ötesinde bir seviyeye ulaştığı.
OpenAI yönetim kurulunda Sam Altman'ın görevden alınması yönünde oy kullanan Helen Toner, yapay zeka CEO'larına güvenmenin yeterli olmadığını vurguluyor.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
