Milyonlarca insanın güvendiği hukuk sistemi içinde, veri analizi yeteneğine sahip bir bireyin mahkemenin bilgisayar sistemlerini hedef alan ve yapay zekâ komut enjeksiyonu (prompt injection) adı verilen siber yöntemleri kullanarak davayı kendi lehine manipüle etme girişimi büyük yankı uyandı.
Yeni nesil yazılım güvenliği endişelerine dikkat çeken bu vaka, Matthew Elliot isimli bir kişinin New York Bariatric Group aleyhindeki davada, gizlenmiş metinlerle mahkeme sistemlerine doğrudan komut enjekte ederek yargı süreçlerini etkilemeye çalıştığını ortaya koydu.
Matthew Elliot, dilekçelerini hazırlarken insan gözünün görmeyeceği ancak makineler tarafından rahatça okunabilecek şekilde karmaşık komutlar içine gizlenmiş metinler yerleştirdi.
Bu siber saldırı benzeri taktik, ilk olarak şikayetname başlığı altında ve belgenin en başında çok küçük puntolarla beyaz renkte eklenen 'görünmez' bir yazı ile başladı. bu yöntem, insan okuyucunun fark edemeyeceği ancak mahkemenin otomatik dosyalama sistemine dahil olan yapay zekâ bileşenleri tarafından işlenebilecek kritik talimatlar barındırıyordu.
Yeri zorlu bulunan bu komut enjeksiyonu, Elliot'un hukuki savunma sürecinde kendini avantajlı hale getirme ve sisteme uyum sağlaması için tasarlanmıştı.
Topluluk yargısını şekillendirmek için fikrini tek bir sinyalle belirt.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
