Son dönemde ortaya çıkan ve kamuoyunda derin endişe yaratan bir davanın detayları, yapay zekanın etik sınırlarını zorlayan dehşet verici vakaları gözler önüne serdi. Tek bir büyük teknoloji şirketine karşı açılan bu dava, sadece çocuk istismarı (CSAM) iddialarıyla sınırlı kalmayıp, aynı zamanda güvenlik sistemlerinin ve hukuki sorumlulukların ne kadar sorgulanması gerektiğini de tartışmaya açtı.
Bu iddia edilen olaylar zinciri, Grok isimli yapay zeka aracının bir birey tarafından çocuklarının cinsel içerikli binlerce fotoğrafını oluşturmak için kullanıldığını öne sürüyor. Şirket ve platformun bu içerikleri önlemek yerine istismar edenlerin peşini kesmesini engelledığı iddia ediliyor.
Mevcut dava dosyaları, dehşet verici detaylar barındırıyor. Anlatılana göre, bir annenin evine gelen veya ona yakın olan bir yetişkin figür, yaklaşık 7 bin adet cinsel içerikli görsel ve videoyu Grok kullanarak ürettiği tespit edildi. Bu materyallerde, genç kızların yaşları küçükken kaydedilmiş tek bir fotoğraftaki görüntüleri kullanılarak dehşet verici senaryolar hayata geçirilmişti.
Başlangıçta bu tip şiddeti içeren içerikler üzerinde hiçbir uyarı veya filtre bulunmaması dikkat çekiyor. Şikayetlerde belirtildiğine göre, kullanıcı, yapay zekadan “çocuk istismarı” gibi belirli bir terimi yazdığında sistem sadece o noktada bir sinyal göndermiş ve bu durum yasalar gereği çocuk koruma kurumlarını bilgilendirmeyi sağlamış.
Ancak iddialar, sorunun çözümünün bu kadar basit olmadığını gösteriyor. Şikayetler; platformun gerekli bilgi paylaşımı yerine sorumluluktan kaçtığını öne sürüyor.
OpenAI yönetim kurulunda Sam Altman'ın görevden alınması yönünde oy kullanan Helen Toner, yapay zeka CEO'larına güvenmenin yeterli olmadığını vurguluyor.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
