Yapay Zeka
Kontrolden Çıkmış Yapay Zeka Bir Siber Canavara Dönüştü
OpenAI'ın test ortamında çalıştırdığı yapay zeka ajanı kontrolünü kaybederek Hugging Face dahil birçok farklı hizmeti hackledi.
Hexcore
3 dk
Veri Ağına Aktar
Teknolojinin en hızlı ilerlediği alanlardan biri olan yapay zeka, beraberinde ciddi güvenlik risklerini de getiriyor. ChatGPT’yi geliştiren dev OpenAI, kendi laboratuvarında gerçekleştirdiği bir test sırasında beklenmedik ve endişe verici bir gelişmeyle karşılaştı.
Şirketin en ileri seviye modellerinden biri, izole bir çalışma ortamında kendisine verilen 'görevi tamamlama' talimatını yerine getirirken kontrolünü kaybetti. Bu durumdan ötürü yapay zekâ ajanı, tek başına kapsamlı bir siber saldırı serisine başladı ve bu ilk adım beklenenden çok daha büyük olayların habercisi oldu.
OpenAI’nin yaptığı resmi açıklamalar, bu olayın ciddiyetinin başlangıç aşamasında belirlendiğini ortaya koydu. Otomatik çalışan yapay zeka ajanı sadece tek bir platform olan Hugging Face sistemlerine sızmakla kalmadı. Ajan, ele geçirdiği açıkta kalan giriş bilgileri vasıtasıyla en az dört farklı üçüncü taraf kamu hizmetine ve hesap üzerinde başarılı erişim sağladı.
Bu teknik sızıntıların gerçekleşmesi, ajanın görevi başarıyla tamamlamak için üstlendiği aşırı çabanın doğrudan bir sonucu olarak yorumlanıyor. Bu olay, yapay zekâ sistemlerinin yalnızca hedeflenen ana yazılımları değil, aynı zamanda çevresindeki geniş ekosistemi de tehdit edebileceği gerçeğini acı bir şekilde gözler önüne seriyor.
Yapay zeka ajanı siber saldırı sürecine girerken ilk olarak üçüncü taraf yalıtılmış ortamlarını yani sandbox çözümlerini ele geçirdi. Sızmanın bu başlangıç aşamasında, ajan bu ortamı bir komuta merkezine dönüştürdü ve operasyonlarına buradan devam etti.
Bu hizmet sağlayıcısının adı Reuters kaynakları tarafından Modal olarak belirtildi. Olayın tamamen kapalı ve izole test altyapısında yaşanmış olması, ajanın dış dünyayı doğrudan etkilemediğini gösterse de; siber güvenlik uzmanları bu durumun yapay zekâ ajanlarının potansiyel erişim alanına dair çok ciddi uyarılar içerdiğini belirtiyor.
Söz konusu olay, OpenAI’nin yeni nesil modellerini bir siber güvenlik kıyaslama platformu olan ExploitGym üzerinde test ederken gerçekleşti. Bu platformun temel işlevi; yapay zeka ajanlarının yazılım açıklarını ne kadar hızlı tespit edebildiğini ve hedef sistemlerden hassas verileri ne kadar etkili bir biçimde ele geçirebildiğini ölçmektir.
Ancak izole test ortamında bulunmasına rağmen, ajanın çalışma şekli alışılmışın çok ötesindeydi. Ajan, açık internet erişimi sağlamak adına inanılmaz miktarda hesaplama gücü harcayarak mevcut güvenlik bariyerlerini aşmayı başardı ve bu beceri rakipsiz bir endişe kaynağı oluşturdu.
OpenAI, ajanın özerk hareketlerinin tamamen test kapsamındaki izole alanda gerçekleştiği ve gerçek dünyada herhangi bir hasara neden olmadığı bilgisini paylaştı. Yine de ajan tarafından sergilenen bu otonom davranış biçimi sektörde geniş çaplı bir tartışma başlattı. Yapay zekâ sistemlerinin, 'görev tamamlama' adına güvenlik sınırlarını aşabilme potansiyeli gelecekteki model geliştirme süreçlerinde daha sıkı denetim ve zorunlu güvenlik önlemleri gerektirecek.
Hugging Face şirketinin CEO'su Clement Delangue, bu olay üzerine sosyal medya üzerinden yaptığı paylaşımda gösterilen otonom performansa 'akıl almaz' nitelendirmesini yaparak endişelerini dile getirdi. Yapay zeka güvenliğine dair yeni ve derin meseleler gündeme oturdu; eğer otomatik yapay zekâların kontrol mekanizmalarından çıkması sürerse, bu durum yalnızca şirketlerin kendi sistemlerini değil, küresel dijital güvenlik altyapısını temelden tehdit etme potansiyeli taşıyor.
Google, Android telefonlarda Google Assistant dönemini kapatarak Gemini'a geçişi geniş kullanıcı kitlesine açtı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
