Bir İngiliz regülatörünün hazırladığı rapor, finans sektöründeki yapay zekanın (YZ) hızına ayak uydurmak için 'bir silahlanma yarışı'na girilmesi gerektiği konusunda ciddi uyarılar içeriyor. Yapay zeka teknolojilerinin potansiyel faydaları ile beraber getirdiği yeni risklerin aynı anda ele alınması, sektördeki en büyük gündem maddesi haline geldi.
Rapor, YZ’nin finansal hizmetlere erişimi genişleterek daha önce yalnızca dünyanın en varlıklı müşterilerine sunulan karmaşık ve sofistike hizmetleri, daha düşük gelirli bireylere 'demokratikleştirebileceğini' belirtiyor. Örneğin, yıllık sadece 20 bin sterlin kazanan bir kişinin bile, eskiden on milyon sterline yakın serveti olanlara özel finansal danışmanlıklara ulaşabilmesi teorik olarak mümkün görünüyor.
Ancak bu genişleme vaadi, ciddi güvenlik tehditleri ile gölgeleniyor. Yapay zeka sistemlerinin suç ve siber saldırı risklerini artıracağı vurgulanıyor. Derin sahte (deepfake) teknolojileri, sentetik kimlikler ve kişiselleştirilmiş sosyal mühendislik gibi yöntemlerin dolandırıcılığı tamamen yeni bir çağa taşıdığı ifade ediliyor.
Bu tehditlere karşı koymak için YZ'nin kendisinin savunma sistemlerinde kullanılması şarttır. Finans kurumları bu yıkıcı etkilere karşı kendini güçlendirmek zorundadır, aksi takdirde dijital finansal ekosistem büyük bir kırılma yaşayabilir.
Halli Millis tarafından hazırlanan ve FCA’dan (Finans Kurumu) ayrılan uzmanlığından gelen raporun temel talepleri ise oldukça iddialı. Rapora göre Finans Kurumu'nun kamu ve özel sektör temsilcilerinden oluşan gruplar kurarak 'Yapay Zeka Destekli Finansal Yeterlilik Hizmeti' oluşturması gerekiyor. Bu hizmet, vatandaşlara finansal seçimleri konusunda ücretsiz bilgi ve rehberlik sağlamalıdır.
milyara yaklaşan serveti olan kişilerin bile bu bilgiyi edinemediği argümanı üzerinden hareketle Millis, toplumun genel düzeyde dijital finansal okuryazarlığını artırmayı amaçlıyor. Temelde, bankacılık ve yatırım gibi kritik alanlarda herkesin eşit bilgiye sahip olmasını istiyor.
Rapor aynı zamanda siber suçla mücadele bağlamında düzenleyici yetkilerin güçlendirilmesini öneriyor. Özellikle Anthropic, OpenAI, Amazon ve Google gibi finans sektöründeki kritik teknoloji sağlayıcılar (Büyük Teknoloji firmaları) üzerinde Finans Kurumu'nun denetimini artırması gerektiği belirtiliyor.
Mevcut 'kritik üçüncü taraflar rejimi' kapsamında bu firmalara daha güçlü bir gözetim mekanizması kurulmalı. Bu yeni süreç, şirketlerin yıllık öz değerlendirmeler yapmasını ve ciddi teknolojik aksaklıklara karşı dayanıklılıklarını test eden 'senaryo testleri' uygulamasını zorunlu kılabilir.
Bu durum, regülatörün sadece yazılım hatalarına değil; aynı zamanda o yazılımların kullanıldığı sistemlerin bütünlüğüne de odaklanacağını gösteriyor. Millis, yapay zeka modellerinin yaptığı işlemlerden yönetim sorumlularının hala bizzat sorumlu olması gerektiğini belirterek insan gözetiminin önemini vurguluyor.
human in the loop ilkesi (insan döngüsünde yer alma prensibi) raporun merkezinde bir tartışma konusu olsa da Millis, makinelerin yaptıklarının arkasında her zaman hesap verecek bir insanın bulunması gerektiğini net bir şekilde ifade ediyor. Otomatik işlemler ne kadar gelişirse gelişsin, finansal riskin son sorumlusu insan kalacaktır.
Yapay zekanın sunduğu yenilikler beraberinde dolandırıcılık tehlikelerini katlamaktadır. Rapor, YZ'nin bu yeni tehditleri kullanmak yerine sistemin kendisini korumak için aktif olarak kullanılmasını talep ediyor. Yapay ortamda üretilen kimliğe sahip dolandırıcıların (sentetik kimlikler) önüne geçebilecek gelişmiş algoritmaların kurulması bir zorunluluk olarak görülüyor.
FCA ayrıca 'belirlenmiş faaliyetler rejimi' adı altında, finansal sektörde belirli aktiviteleri yürüten firmaları lisans alma şartı olmaksızın düzenleme yetkisi edinmeyi amaçlayabilir. Bu mekanizma, yeni çıkan ve hızla büyüyen teknoloji girişimlerinin daha hızlı regülasyon almasına olanak tanıyacak bir esneklik sunar.
Mevcut sert eleştirilere rağmen Millis'in bu çalışması, finansal teknolojilerin geleceğini şekillendiren yapay zekanın kontrolünü elinde tutma çabasının kritik bir parçasıdır. Düzenleyici makamlar, raporun önerilerini değerlendirirken hem inovasyon potansiyelini hem de küresel güvenlik endişelerini dengeleme konusunda çok hassas davranacaktır.
Topluluk yargısını şekillendirmek için fikrini tek bir sinyalle belirt.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
