Microsoft Başkanı Brad Smith, yapay zeka güvenliği konusunda çarpıcı bir çağrıda bulundu. BBC'nin Big Boss Interview podcast'ine konuşan Smith, yapay zeka sistemlerinin market raflarındaki süt kutularından bile daha az denetime tabi olduğunu savundu. "Şu anda çamaşır makineniz, yapay zekadan daha fazla güvenlik kuralına tabi. Marketlerde gördüğünüz her süt kutusu güvenlik kurallarına ve denetime tabi" diyerek mevcut düzenlemelerin yetersizliğine dikkat çekti.
Smith'in önerileri, şirketlerin teknolojilerinin güvenli olduğuna dair söz vermesinin ötesine geçiyor. Yapay zeka ajanları sistemlere sızdığında şirketlerin güvenlik ihlallerini bildirmesi ve mağdurları uyarması için yasal zorunluluk getirilmesini istiyor. Ayrıca, yapay zeka sistemlerini durdurabilecek veya yavaşlatabilecek "acil fren" mekanizmaları ile yeni teknolojinin piyasaya sürülmeden önce bağımsız değerlendiriciler tarafından incelenmesi gerektiğini belirtiyor.
Smith'in eleştirisi, sorumlu şirketlerin gönüllü kurallara uyacağı, ancak daha az sorumlu olanların uymayabileceği gerçeğine dayanıyor. Eylül ayında Beyaz Saray'da düzenlenen bir toplantıda büyük yapay zeka şirketleri, sistemlerinin amaçlandığı gibi çalışıp çalışmadığını değerlendirmek için bağımsız denetçilerle çalışmayı da içeren gönüllü güvenlik standartlarını kabul etmişti. Smith bu anlaşmayı memnuniyetle karşıladığını ve Microsoft'un imzalamaktan mutluluk duyduğunu belirtti. Ancak BBC'ye verdiği demeçte, "Bu iyi bir adım, gerekli bir adım... Ama artık yeterli olduğunu düşünmüyorum" dedi.
Smith, diğer ürünler için nasıl güvenlik standartları oluşturulduğunu bildiğimizi ve bu bilgiyi yapay zekaya uygulamamız gerektiğini vurguladı. Önerileri arasında şunlar yer alıyor:
Bu öneriler, Bill Gates'in son uyarılarıyla da örtüşüyor. Gates de yapay zeka güvenliği konusunda daha sıkı önlemler alınması gerektiğini savunmuştu.
Yapay zeka liderlerinin daha güçlü güvenlik standartları çağrıları, beraberinde önemli bir soruyu getiriyor: Bu kuralları kim koyacak? Uzmanlar, şirketlerin güvenlik önlemlerini desteklerken aynı zamanda bu önlemlerin nasıl işleyeceği konusunda kontrol sahibi olmak isteyebileceği konusunda uyarıyor. Center for Humane Technology'den Pete Furlong, şirketlerin şeffaflık çabalarının genişletilmesi gerektiğini belirtiyor.
Yapay zeka düzenlemeleri konusundaki bu tartışmalar, Türkiye'de yakından takip ediliyor. Türkiye, yapay zeka alanında kendi düzenleyici çerçevesini oluşturma çalışmalarını sürdürüyor. Avrupa Birliği'nin Yapay Zeka Yasası gibi küresel düzenlemeler, Türkiye'deki şirketler için de önemli sonuçlar doğurabilir. Microsoft gibi küresel teknoloji devlerinin gönüllü taahhütlerin ötesinde yasal düzenlemeler talep etmesi, Türkiye'deki politika yapıcılar için de bir referans noktası oluşturabilir. Önümüzdeki dönemde yapay zeka güvenliği konusunda ulusal ve uluslararası düzeyde daha fazla yasal düzenleme görebiliriz.
Magentic, Felicis liderliğinde Borusan Ventures, Sequoia Capital, The Westly Group ve First Momentum Ventures'ın katıldığı A serisi turda 18 milyon dolar yatırım aldı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
