Yapay Zeka
Yapay Zeka İş Başvurularını Nasıl Yorumlar?
Yapay zeka işe alım sistemlerinin tarafsızlığı üzerine yapılan güncel araştırmalar, değerlendirme sonuçlarını etkileyen önemli görsel önyargıları ortaya çıkarıyor.
Hexcore
2 dk
Veri Ağına Aktar
Teknolojinin işe alım süreçlerini dönüştürdüğü bir dönemde, yapay zeka destekli sistemler adil değerlendirmenin ana hedefi olarak görülüyor. Ancak son araştırmalar, bu algının ne kadar kırılgan olabileceğini gösteriyor. Yapay zekanın her başvuruyu nesnel ve eşit şekilde ele alacağı düşünülse de, sonuç veren avatarın ırkı veya cinsiyeti gibi görünümsel özellikler, adayların adalete olan inancını derinden etkiliyor.
Yeni bir çalışma kapsamında yaklaşık iki yüz katılımcıya sunulan kurgusal müşteri destek rolünde, farklı yapay zeka avatarlarıyla simülasyonlar yapıldı. Tüm gruplar reddedilmiş olsa da, bu ret kararlarının ne kadar adil olduğu algısı tamamen mülakatçının fiziksel görünümüne bağlı olarak değişiyordu.
Mekanizmanın arkasındaki algoritma denetimleri tek başına bu hassas tepkileri fark edemeyebilir çünkü adaylar sistemi ham kodları üzerinden değil, etkileşim kurdukları bir yüz deneyimleyerek algılarlar. Araştırma sonuçları gösteriyor ki, yalnızca cinsiyet ya da ten rengi gibi tek bir özellikte mülakatçıyla eşleşen adaylar bile, süreçleri her iki boyutta veya hiçbiriyle uyumlu olan diğer gruplara kıyasla daha az adil bulabiliyor.
Bu kısıtlı benzerliğin neden en güçlü tepkiyi ürettiği tam olarak açıklanamasa da, çalışmanın bir hipotezi, sınırlı düzeydeki bu görsel ortaklığın adayların mülakat süreçlerinden bekledikleriyle değişim yaratmış olması. Bu durum reddedilme deneyimini daha kişisel ve içsel hissettiriyor.
Xüsusi bir avatar kullanılmasına rağmen, cevap ne olursa olsun bir yapay zeka tarafından değerlendirilmek; katılımcıların sürece olan güvenini sürekli yüksek tutmayı başarıyor. İlginç bir gözlem ise göz takibi verilerinde ortaya çıktı: Deney sonunda katılımcılar, kendilerinin ten rengiyle farklı olan yüzlere karşı daha yoğun ve yakın bakma eğilimi gösterdi.
Red cevabı bildirildiğinde adayların genel sürece yönelik şüpheci tutumu artıyor. Irksal uygunsuzluğun varlığı da, katılımcıların algoritmanın sonucunu önyargılı bir bakış açısıyla yorumlama olasılığını yükseltiyor.
Yapay zekanın verdiği nihai karar sabit kalsa bile, ekranda yer alan avatarın kimliği ve görünüşü, bu kararların nasıl yorumlanacağını şekillendiriyor. Deneyde kullanılan durum kurgusal bir işe alım süreci içeriyordu ve standartlaştırılmış bir ret yanıtı verilmişti; bu da bulguların gerçek dünyadaki tüm yapay zeka mülakat sistemlerinin aynı tepkiyi vereceğini kanıtlamadığı anlamına geliyor.
Ancak elde edilen veriler, otomatik olarak verilen bir kararın kişisel boyut kazanmaya başladığında, adalete dair algının ne kadar çabuk ve derin bir şekilde değişebileceğini çok çarpıcı biçimde ortaya koyuyor.
Precision Neuroscience, beyin-bilgisayar arayüzü geliştirmek için 250 milyon dolarlık D serisi yatırım aldı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
