Hexcore
1 dk
Veri Ağına Aktar
Yapay zeka platformlarının güvenliği için geliştirilen savunma yöntemleri, gelen saldırılara karşı alışılmadık bir taktik geliştirdi. Prompt Injection adı verilen ve kötü niyetli kullanıcılar tarafından içerik içine gizlenen zararlı komutlar, yapay zeka modellerini (Büyük Dil Modelleri veya LLM) kurbanlarının bilgilerine ihanet etmeye zorlayan ana araçtı.
Saldırganlar genellikle bu zehirli komutları bir e-posta gönderisine veya takvim davetine sızdırıyor ve yapay zekanın platform dışındaki hassas verilere erişmesine veya istenmeyen yıkıcı hareketler sergilemesine neden olabiliyor. Bu teknik, AI tabanlı sistemleri kendi karşılarına kullanmak için oldukça etkiliydi.
Ancak sektördeki güvenlik araştırmacıları da bu tehdidi kabul etti ve zararlı komutların kendilerini savunma mekanizmalarına dönüştürmek üzere yeni bir strateji geliştirdiler. Tracebit firması tarafından yapılan son çalışmalar, saldırıları durdurmada tek başına prompt injection'ın güçlü olabileceğini gösterdi.
SpaceX, Teksas ve Arizona'da kuracağı iki süper bilgisayar kampüsü için 74 milyar doları aşan yatırım yapacağını açıkladı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
