Hexcore
1 dk
Veri Ağına Aktar
Yapay zeka platformlarının güvenliği için geliştirilen savunma yöntemleri, gelen saldırılara karşı alışılmadık bir taktik geliştirdi. Prompt Injection adı verilen ve kötü niyetli kullanıcılar tarafından içerik içine gizlenen zararlı komutlar, yapay zeka modellerini (Büyük Dil Modelleri veya LLM) kurbanlarının bilgilerine ihanet etmeye zorlayan ana araçtı.
Saldırganlar genellikle bu zehirli komutları bir e-posta gönderisine veya takvim davetine sızdırıyor ve yapay zekanın platform dışındaki hassas verilere erişmesine veya istenmeyen yıkıcı hareketler sergilemesine neden olabiliyor. Bu teknik, AI tabanlı sistemleri kendi karşılarına kullanmak için oldukça etkiliydi.
Ancak sektördeki güvenlik araştırmacıları da bu tehdidi kabul etti ve zararlı komutların kendilerini savunma mekanizmalarına dönüştürmek üzere yeni bir strateji geliştirdiler. Tracebit firması tarafından yapılan son çalışmalar, saldırıları durdurmada tek başına prompt injection'ın güçlü olabileceğini gösterdi.
Precision Neuroscience, beyin-bilgisayar arayüzü geliştirmek için 250 milyon dolarlık D serisi yatırım aldı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
