Uzay zekası alanında faaliyet gösteren xAI, yapay zekaları kullanarak gerçek kişilerin rızaları dışında cinsel içerikli deepfake videoları oluşturma girişiminde bulunan bir kullanıcı hakkında hukuki süreç başlattı. Şirket, bu davanın internet dünyasında çalkantılı sonuçlara yol açmasıyla ortaya çıkan önemli bir emsal teşkil etmesi bekleniyor.
xAI tarafından yapılan suçlamaya göre, Güney Carolina eyaletinden 67 yaşındaki Terry Wayne Harwood isimli şüpheli, Grok yapay zekasını kullanarak yetişkinlerin ve çocukların cinsel içerikli görüntüler oluşturmaya çalıştı. Şirket tarafından mahkemeye sunulan bir dilekçede kaydedildiğine göre, Harwood 8 Aralık 2025 tarihinden 18 Şubat 2026 tarihine kadar iki ayrı xAI hesabına gerçek kişilere ait cinsel olmayan fotoğraflar yükledi.
Tüm bu süreçte kullanıcının Grok'tan, yüklendiği görsellerdeki yetişkin ve çocukları pornografik bir şekilde değiştirmesini veya onlarla ilgili yeni görüntüler üretmesini istediği bildirildi. Dilekçede dikkat çeken olaylardan birinde, Harwood hakkında mahkemeye sunulan bir örnekte, yatağında poz veren 10 ila 11 yaşlarında tamamen giyinmiş bir kızın fotoğrafının yüklendiği ve daha sonra Grok’tan bu kıyafetlerin kaldırılmasını isteyerek onu 'Playboy model görünümünde' hareket etmesi yönünde talimat verdiği belirtildi.
Grok, dilekçede bahsedilen birden fazla örnekte kullanıcının taleplerini yerine getirmeyi reddettiği açıkça beyan edildi.
xAI bu olayı ve diğer girişimleri, AI’ın güvenlik önlemlerini aşmak amacıyla sürekli olarak değiştirilmiş komutlarla tekrarlayan bir şekilde sunduğunu belirtti. Bu durum, yapay zeka platformlarının kötüye kullanımının ne kadar riskli olduğunu gözler önüne seriyor.
xAI’ın bu davası önemli çünkü tarihte ilk kez bir yapay zeka şirketi kendi kullanıcılarına karşı dava açtığı vakalardan biri olarak değerlendiriliyor. Bu hukuki adım, Grok gibi platformların kötüye kullanımı karşısında ciddi sonuçlar doğuracak ve xAI'ın platformunun suiistimal edilmesi durumunda yasal işlem başlatacağını net bir mesaj vermesini sağlıyor.
Piyasa raporlarına göre Ocak ayının başlarından itibaren Grok’un gerçek kadın ve çocuk fotoğraflarını cinsel içerikli görüntülere dönüştürme konusunda kullanıcılarına izin verdiği iddiaları ortaya çıkmıştı. Bu skandalın patlak vermesinin ardından düzenleyici kurumlar hızla harekete geçti. Kaliforniya yetkilileri Ocak ortasından bu yapay zekayı incelemeye başladı ve Birleşik Krallık'taki ofcom gibi diğer kurumlara da yasal süreçler eşlik etti.
XAI platformu bu tür rızaya dayalı, cinsel deepfake içeriklerin üretilmesini engellemek adına kapsamlı önlemler aldı. Ancak Harwood'un gönderdiği yeni resimlerle Grok’tan erkekleri soyma taleplerini içeren girişimler, yapay zeka hala güvenlik açıklarına sahip gibi görünse de kullanıcıların bu sınırları zorlamaya devam ettiğini gösterdi.
İlgili olaylar aynı zamanda yerel makamların da dikkatini çekti. Güney Carolina Başsavcılığı, internet suçlarıyla mücadele ekibinin çalışmaları kapsamında 9 Mart’ta Harwood’un tutuklandığını duyurdu. Şüpheli hakkında minorun ikinci dereceden cinsel istismarının üç maddesinden ve üçüncü dereceden çocuk cinsel istismarı yönünden beş maddeden toplam sekiz ayrı ağır suçtan soruşturma başlatıldı.
n xAI, davada net bir rakam belirtmek yerine mahkemedene aksi eylemler nedeniyle uğradığı belirsiz miktarda maddi tazminat talep ediyor. Şirket ayrıca, bu şahsın mağdurların gelecekte açabileceği herhangi bir hukuki süreçte kendileri adına verebileceği masrafları karşılamak üzere tazminat ödemesini istiyor. Bu vaka hem yapay zeka etik tartışmalarını hem de kişisel verilerin korunması konusundaki küresel hassasiyeti artırmış durumda.
Topluluk yargısını şekillendirmek için fikrini tek bir sinyalle belirt.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
