Yapay Zeka
Yapay Zeka Güvenliğini Sarsacak Yeni Tehdit: Botnetleri Otomatik Oluşturan Yöntem Ortaya Çıktı
HalluSquatting adlı yeni bir saldırı yöntemi ile yapay zeka kod asistanlarının botnet kurma potansiyeli artıyor.
Hexcore
3 dk
Veri Ağına Aktar
Yapay zeka güvenliği alanında son dönemde ortaya çıkan en kritik tehditlerden biri kesinlikle istem müdahalesi olarak adlandırılan prompt injection'dır. Geniş dil modelleri bu doğası gereği, kullanıcılar tarafından gönderilen meşru talimatlar ile e-posta gibi kaynaklarda gizlenmiş kötü niyetli komutları veya üçüncü taraf verilerdeki saldırıları ayırt etmede zorlanır. Bu durum, yapay zeka sistemlerine kolayca fark edilmeyen zararlı komutların dahil edilmesine olanak tanır ve model bu komutlara büyük bir istekle uyar.
Geliştiricilerin en ufak bir şüphesini veya yetkisiz erişim girişimini engellemek için oluşturduğu katmanlı güvenlik önlemleri, temelde sorunun kök nedenine çözüm getirmek yerine zararı azaltmaya odaklanmaktadır. Bu kapsamda geliştirilen güvenlik duvarları ve sistem korumaları maalesef bu yeni tehdit karşısında yetersiz kalabilmektedir.
Hakerediyana kadar prompt injection saldırıları genellikle hedefe yönelik bir yöntem olarak görülüyordu. Saldırgan, hedef kişinin özel e-postası veya takvim daveti gibi kişiye özel mesajlara kötü niyetli komutları yerleştiriyordu. Ancak bu tür saldırıların gerçekleşebilmesi için her potansiyel kurbanın tek tek hedeflenmesi ve bu zararlı kodun sisteme gönderilmesi gerekiyordu, bu da saldırı ölçeğini sınırlıyordu.
Tarafından başlatılan saldırılarda ise Büyük Dil Modellerinin (LLM) bir web sitesinde veya platformda gizlenmiş kötü amaçlı istemleri aktif olarak aradığı görülüyordu. Bu senaryoda da saldırganın büyük miktarda LLM'i kendi zararlı sitesine çekmesi gerekiyordu, dolayısıyla bu tür yöntemler de geniş çaplı yayılma yeteneğinden yoksundu.
Bu sınırlı durum değişti. Araştırmacılar, tüm bunları değiştirebilecek yeni bir yaklaşım geliştirerek Prompt Injection alanında tamamen farklı bir kapıyı araladılar. Bu yeni saldırı modeline HalluSquatting adı verildi. HalluSquatting'in en dikkat çekici özelliği; büyük botnet ağları kurma ve geniş çaplı Hizmet Engelleme (DDoS) saldırıları gerçekleştirme potansiyelidir. Bu yöntem, istem müdahalesi temelli saldırılar için ilk kez bu denli büyük bir ölçek sağlıyor.
HalluSquatting modeli özellikle kod yazmaya yardımcı olan yapay zeka ajanları ve asistanlarını hedef alıyor. Cursor, GitHub Copilot gibi popüler araçlar da dahil olmak üzere Cline, OpenClaw, ZeroClaw ve NanoClaw sistemleri bu yeni saldırı modeline karşı savunmasızdır. Bu tür ajanların günlük görevlerini yerine getirirken üçüncü taraf kaynaklardan kod veya diğer gerekli dosyaları rutin olarak çekmesi temel zafiyet noktasıdır.
HalluSquatting terimi, kötü niyetli halüsinasyon (halüsinasyon) ve kaynak ele geçirme kelimelerinin birleşiminden oluşuyor. Bu saldırı modeli, Büyük Dil Modellerinin depolarda veya kayıt sistemlerinde bulunan önemli tanımları otomatik olarak 'gerçek varmış gibi uydurma' eğiliminden faydalanır. Kod yazmaya yardımcı ajanlar bu yöntemi işe yaratan unsurlardandır; zira üçüncü taraf kaynaklardan kod çalıştırırken genellikle yüksek yetkilere sahip komut satırlarına erişim sağlarlar.
yeni saldırı, Büyük Dil Modellerinin en çok halüsinasyon göstereceği tanımları önceden tahmin ederek başlar. Saldırgan bu tahmini tanımları depolarda veya kayıt sistemlerinde kaydeder ve ardından bu tanımları ters kabuk (reverse shell) yüklemek gibi zararlı yazılımlar kurmaya yönelik komutlarla beslerler. Bu sayede saldırı, tek tek cihazları hedeflemek zorunda kalmadan devasa sayıda cihaza aynı anda bulaşma potansiyeline sahiptir.
Yeni bu tehdit, yapay zeka temelli güvenlik ekosistemleri için ciddi bir uyarı niteliği taşımaktadır. Kod geliştirme süreçlerinde kullanılan araçların güvenilir kaynakları doğrulaması ve tahmin edilemeyen girdi türlerine karşı çok katmanlı savunma mekanizm oluşturması kritik hale gelmiştir.
Google, Android telefonlarda Google Assistant dönemini kapatarak Gemini'a geçişi geniş kullanıcı kitlesine açtı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
