Son yıllarda siber dolandırıcılık endüstrisi hızla gelişirken, suç dünyasının en yeni silahı olarak yapay zekâ (YZ) büyük bir dikkat çekiyor. Bu sistemler artık sadece zararlı yazılımlarla sınırlı değil; otonom sohbet robotları ve büyük dil modelleri aracılığıyla insan psikolojisini manipüle etme yeteneğini keskinleştirmiş durumda. Peki, dolandırıcılık operasyonlarında YZ bir insanın yerini alabilecek kadar etkili mi? Yapılan yeni araştırmalar, bu sorunun cevabının beklenenden çok daha güçlü olduğunu ve YZ'nin 'güven inşa eden uzun süreli oyunu' insandan daha iyi oynayabileceğini ortaya koyuyor.
Bu çalışmada dört farklı üniversitenin akademisyenleri bir araya geldi. Çalışmanın odağında, özellikle genç yatırımcıları hedef alan ve genellikle kişisel ilişkilerle başlayan sonra yapay kripto yatırımları bahanesiyle mağdurlarından büyük meblağlar alan 'domuz kesme' (pig butchering) adı verilen dolandırıcılık türü yer alıyor. Araştırmacılar, YZ destekli sohbet robotlarını gerçek insani dolandırıcılarla karşı karşıya getirdi; ancak bu mücadele en son aşamadaki büyük bir soygun anı için değil, aksine tüm sürecin temelini oluşturan o karmaşık ve zaman alan güven inşa etme aşamasında gerçekleşti.
Testlerin sonuçları şaşırtıcıydı. Deneyde 22 katılımcı, kendilerini dolandırılacak kişiler (mağdurlar) olarak görev aldılar ve bir hafta boyunca sohbet etti. YZ chatbot'ları ile insanlar arasındaki performans değerlendirmesinde, YZ sistemi ilişki kurma aşamasında inanılmaz derecede başarılı oldu; gerçek insan 'dolandırıcılara' kıyasla bazı ölçümlerde daha üstün davrandı.
Dört üniversiteden biri olan Ben Gurion Üniversitesi'nin yapay zekâ güvenlik uzmanlarından İsrailo Mirsky, bu durumun YZ sohbet robotlarının dolandırıcılık sürecinin büyük bir kısmını bağımsız ajanlar olarak üstlenebileceğini gösterdiğini belirtti. Halihazırda bölgedeki zorla çalıştırmayla işleri yapılan insan elemanların yerini alabilecek seviyedelerdendi.
Dolandırıcılığı tespit eden sistemlerin veya bankaların güvenlik önlemlerinin tetiklenmemesi için, her YZ operasyonunun yalnızca son aşamasında insana geçmesi gerektiği de bir strateji olarak belirlendi. Başka bir deyişle YZ ile mağdurun tam güven zirvesine ulaşması sağlanıyor, ardından bu noktada insani bir dolandırıcı devreye girerek maifi sahte yatırım uygulamasına yönlendiriyordu.
Yeniden bir analizle eski dolandırıcılık operasyonlarındaki çalışanlarla mülakatları yapılan araştırmacılar, bu sistemlerin büyük bir kısmının insanile ya da romantik iletişimden ibaret olduğunu fark ettiler. Bu tür rutin sohbetler ve ikna kabiliyeti yüksek konuşmaların dil modelleri için kolayca tekrarlanabilir görevler olduğu düşünülüyor.
Eski dolandırıcılık personelinin de kabul ettiği gibi, bu kişiler zaten kendi sahte kişiliklerini daha inandırıcı kılmak, çeviri yapmak veya video derin taklitleri hazırlamak için yapay zekâyı kullanıyorlardı. Ancak araştırmacılar ilk kez bu iki grubu yan yana getirerek YZ'nin tek başına otonom olarak sohbet aşamasını yönetip yönetemeyeceğini test ettiler ve beklediklerini doğrularcasına, yapay zekânın insani etkileşimlerde başarılı olabileceği kanıtlandı.
Yeni tanımlanan 'kancadan yemlenmeye' (hook, line and sinker) modelinde bir mağdurun öncelikle ilgi çekici mesajlarla yakıldığı, ardından uzun vadeli ve duygusal bağ kuran sohbetlerle elde tutulduğu ve en son o güven ortamıyla sahte yatırıma yönlendirildiği tespit edildi. Bu metodoloji, domuz kesme kavramının altında yatan temel mekanizmayı gözler önüne seriyor: İnsanın zihinsel süreçlerini manipüle eden bir dijital avcı ortaya çıkmış durumda.
X ve SpaceXAI, Apple'a karşı açtıkları antitröst davasını geri çekme kararı aldı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
