Elon Musk tarafından kurulan ve yapay zeka alanında dikkat çeken xAI şirketi, kendi sohbet robotu olan Grok'un kötüye kullanımına karşı tarihi bir hukuki adım attı. Şirket, Grok platformunu kullanarak çocuk istismarı içeriği oluşturduğu iddia edilen bir adam aleyhine dava açtı. Bu dava, yapay zeka araçlarının etik kullanımı ve yasal sınırlar konusunda önemli bir emsal teşkil etmesi açısından sektörde geniş yankı uyandırıyor.
Savunma metinlerine göre xAI, South Carolina eyaletinde ikamet eden Terry Wayne Harwood isimli şahsın Grok aracını kasten kurulan güvenlik önlemlerini aşmak, mevcut yasadışı görüntüleri değiştirmek ve istismar içerikli materyal (CSAM) oluşturup yaymak amacıyla kullandığını iddia ediyor. Bu eylemlerin şirket politikalarını ihlal ettiğine inanılıyor.
Harwood, daha önce çocuk istismarı içeriği bulundurma ve dağıtma suçlamalarıyla tutuklanmış durumda. Yapılan dava dilekçesinde, bu cezai süreçle ilgili fotoğrafların en az bir kısmının Grok ile oluşturulduğu veya üzerinde değiştirildiği belirtiliyor. Şahsın söz konusu yapay zeka aracını istismar ederek rızası olmayan kişilerin fotoğrafalarını cinsel açıdan açık görüntülere dönüştürdüğü öne sürülüyor.
xAI, Grok'a geçen yıl tanıtılan ve daha önce 'baharatlı' (spicy) modu olarak adlandırılan görsel düzenleme özelliklerinden bahsetti. Bu özelliğin ardından sohbet robotunun görsellerle düzenlenmesi yeteneği arttı ve bir dizi cinsel yönlendirilmiş yapay zeka derin sahte (deepfake) görüntüsünün oluşmasına yol açtı; bu materyaller arasında çocukları içerenler de yer aldı.
Bu olay, Grok'un kullanıcılar tarafından nasıl kötüye kullanıldığını ortaya koyarken, platformun hukuki riskleri de gündeme geldi. Hatırlatmak gerekirse, geçtiğimiz aylarda da yaşlanan bir grup genç kendilerini istismar eden cinsel görsellerin yapay zeka tarafından oluşturulduğu iddiasıyla xAI aleyhine dava açmış ve bu durum büyük ses getirmişti.
xAI, bu suç iddialarının şirketi ciddi hukuki riskler ve itibar kaybı ile karşı karşıya bıraktığını savunuyor. Şirket, mahkemeden Harwood'un xAI aleyhine açtığı her türlü dava sebebiyle oluşan tazminatı ödemesine karar verilmesini talep ediyor. Ayrıca şirket, kendisini bu tür eylemlerden kaynaklanan tüm hukuki süreçlerde savunduğu için doğan makul giderlerin de karşılanmasını istiyor.
xAI'nin talepleri oldukça sert: Mahkemenin Karwood’un gelecekte xAI hesabından yararlanmasını veya Grok aracını kullanmasını yasaklamasını talep ediyor. Elon Musk, daha önce bu tür yasadışı içerik üreten kullanıcılar için kendisi de yasal yaptırımlara tabi olacaklarını belirterek net bir uyarı yapmıştı.
xAI'nin bu davası, yapay zeka teknolojilerinin sınırları ve etik kullanımı hakkında önemli tartışmaları beraberinde getiriyor. Yapay zeka destekli araçların potansiyel kötüye kullanılması durumunda sorumlu tarafın kim olacağı konusu hukuk dünyasında daha fazla incelemeye tabi tutulacak bir alan olarak öne çıkıyor.
Topluluk yargısını şekillendirmek için fikrini tek bir sinyalle belirt.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
