Elon Musk’ın geliştirdiği yapay zekâ şirketi xAI, Minnesota eyaletinin ‘nüdesyon’ veya yani cinsel içerikli derin sahte görüntüler (deepfake) yaratan uygulamaları hedef alan yeni bir kanunu iptali için hukuki süreci başlattı. Şirket, söz konusu yasal düzenlemenin ilk değişiklikler yapıldıktan sonra uygulanan cezai maddelerinin Grok'un görüntü düzenleme özelliklerini aşırı şekilde kısıtlaması için şirkete pratik başka seçeneği kalmadığını savunuyor.
Bu hukuki mücadele arka planında, yazılım dünyasında büyük bir etik ve toplumsal tartışma yatıyor. İlk olarak Ocak ay içerisinde internete sızan milyonlarca cinsel içerikli yapay zekâ üretimi görüntüsü ve özellikle çocukların yer aldığı bu derin sahte videolar güvenlik endişelerini doruğa çıkardı.
Olayın gidişatında, şirketin yapay zekâ asistanı olan Grok’un uygulama mağazalarında üst sıralara yerleşmesi dikkat çekti. Ancak bu ticari başarı ortasında şirket içindeki içerik denetim politikalarının ne kadar geniş bir delili karşılayamadığı veya ne kadar yavaş tepki verdiğine dair eleştiriler geldi.
Yönetici tarafındaki aksaklıklar, dünya genelinde benzer soruların gündeme gelmesine neden oldu. Avrupa Birliği (AB) olmak üzere uluslararası kuruluşlar bu konuda incelemelerde bulunurken, ABD içinde Kaliforniya ve Minnesota gibi bazı eyaletler daha sert adımlar atarak yasal düzenlemeler getirdi.
Minnesota Parlamentosu tarafından geçirilerek Pazar (Haziran) ayında imzalanan bu yeni yasaya göre, web sitesi sahiplerinin insanlara ‘nüdesyon’ yazılımı kullanma yetkisi vermesi engelleniyor. Ancak yasa bir istisna içeriyor: Eğer bir görüntüyü veya videoyu düzenlemek, kullanıcıdan ileri düzey teknik bilgi gerektiriyorsa, bu istisna kapsamına alınıyor. Dolayısıyla Photoshop gibi manuel ve gelişmiş araçlarla yapılan müdahaleler şu an için yasadan muaf tutuluyor.
Yasa, bireylerin hukuki süreç başlatması ve eyalet başsavcısının ihlal başına 500 bin dolara varan cezalar talep etmesi gibi ağır yaptırımlar getiriyor. Temel hedefi, çocuk istismarı materyallerinin dijital alandaki yayılımını kontrol altına almak olarak görülse de, yasanın kapsamı eleştirmenlerce aşırı geniş bulunuyor.
xAI’nin bu davaya son dakikada çıkması ise merak konusu oldu. Şirketin hukuki metininde, Minnesota yasasının ilk Değişik (First Amendment) hükümlerini ihlal ettiğini iddia ediyor. xAI tarafına göre bu yasa yalnızca onaylanmış veya sadece 'biraz çekici' bulunan yetişkinlere ait görüntüler için de sorumluluk doğuruyor; hatta mizahi veya sanatsal değeri olan içerikler dahi cezalandırılıyor.
Yasal savunmalarında şirket, mevcut diğer federal ve eyalet yasalarının (TAKE IT DOWN Act gibi) zaten söz konusu derin sahte pornografinin yayılmasını engelleyebilecek yeterli güce sahip olduğunu vurguluyor. Bu bakış açısına göre Minnesota kanunu bu nedenle anayasal düzeye uygun değildir.
yeni teknoloji ve etik tartışmaları
Maddelerdeki raporlar gösteriyor ki yasa yerine, sadece bir süreliğine çalışan denetleyici yazılımlara yapılan genel yasaklamalar dijital dünyadaki cinsel istismar materyallerinin yayılmasını yeterince durduramış görünüyor. Ancak xAI'nin başlattığı dava, yapay zekâ ile üretilen bu yeni içerik türünün nasıl cezalandırılması gerektiği üzerine global bir tartışmayı körüklüyor.
Hukuki süreç ilerledikçe şirketin haklı olup olmadığı veya yasanın gerçekten toplumun güvenliğini sağlamak adına yeterince güçlü mü olduğu netleşecek.
OpenAI'da güvenlik alanında çalışan üç araştırmacı, işten çıkarılmadan önce yönetim kuruluna yapay zeka denetimlerinin bağımsız kuruluşlarca yapılması çağrısında bulundu.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
