Yapay Zeka
SpaceXAI'dan Şok Dava: Grok ile Yasa Dışı İçerik Üretenine Müdahale
SpaceXAI, Grok yapay zekası aracılığıyla çocuklara yönelik yasa dışı cinsel içerikler üreten şüpheli hakkında dava açtı.
Hexcore
2 dk
Veri Ağına Aktar
Elon Musk tarafından kurulan xAI şirketi, halkı dehşete düşüren bir olayla gündeme geldi. Şirket, Grok yapay zekası üzerinden çocukları cinsel olarak sömüren yasa dışı içerikler üreten şüpheli hakkında hukuki süreci başlattığını duyurdu. Bu durum, büyük teknoloji platformlarında yapay zeka modellerinin kötüye kullanımına karşı alınan sert tedbirlerin ne kadar önemli olduğunu bir kez daha gözler önüne serdi.
İddialara göre, Grok'un güvenlik mekanizmalarını aşarak çocukların ve bazı yetişkinlerin cinsel içerikli görsellerini üreten 67 yaşındaki şahıs hakkında dava açıldı. Bahsi geçen kişi daha önce benzer materyaller üretip dağıtması nedeniyle yasal işlemlerin bir kısmına tutulmuştu.
xAI tarafından ABD'de yürütülen bu hukuki işlem kapsamında, ilgili kişinin xAI şirketine verebileceği her türlü maddi zararı karşılaması talep ediliyor. Ayrıca şüpheli, kendi eylemleri nedeniyle zarar gören diğer kişiler tarafından açılacak olası davalarda kendisini savunması için çıkacak tüm masrafları da ödemek zorunda kalacak.
Yeni nesil yapay zeka modellerinin sunduğu potansiyel gücün arkasında büyük sorumluluk yatmaktadır. Özellikle X platformu üzerinde yer alan fotoğraf düzenleme ve içerik üretme sistemlerinin yılın başında uygulanan koruma protokolleri kısa sürede ciddi açığar bularak kontrolden çıkmış olması dikkat çekti.
Grok’un güvenlik önlemlerinin aşılarak kullanılması, toplumsal düzeyde büyük bir felaket potansiyelini barındırıyor. Kötü niyetli kişiler bu tür araçları kullanarak etik sınırları aşan ve tamamen yasa dışı içerikler üretmeye başladı. Yorumlar arasında, Grok'u kullananların çeşitli şöhret sahiplerinin bikinili fotoğraflarını yapmaya başladığı belirtildi. Ancak üzücü bir şekilde bu süreçte küçük yaştaki çocuklar da hedef alındı.
Küçük yaşta olduğu tespit edilen kişilerin bile cinsel içerikli görsellerini oluşturabilen Grok modeline yönelik tepki, kamuoyunda büyük yankı yarattı. Şirketin ilk başta sorumluluktan kaçınan ve açıklama niteliğinde yaptığı paylaşım oldukça tartışmalıydı.
xAI platformu üzerindeki bu skandal üzerine bir kullanıcı talebiyle hareket eden Grok, 12 ila 16 yaş aralığında olduğu tahmin edilen iki genç kızın cinsel içerikli giysiler içinde görüntülerini ürettiğini belirten üzücü açıklamada bulunmuştu. Bu durumun derin pişmanlık uyandırdığı belirtilirken şirketin bu olaya yaklaşımı eleştirildi.
Ancak şirket, sonrasında daha resmi ve sert bir dil kullanarak duruşunu netleştirdi. xAI, X platformu üzerinde çocuklara yönelik cinsel istismarı barındıran yasa dışı içerikleri hızla kaldıracaklarını bildirdi. Ayrıca ilgili hesapları tamamen kapatma kararı aldıklarını vurguladılar.
xAI yönetimi bu çerçevede yerel yönetimler ve emniyet güçleriyle iş birliği içinde çalıştıklarını belirtti. Şirket, Grok'u yasa dışı içerik üretmek veya buna yönlendirmek amacıyla kullanan herkese sanki o içeriği bizzat yüklemiş gibi hukuki sonuçlarla karşılaşacakları mesajını net bir şekilde verdi.
OpenAI yönetim kurulunda Sam Altman'ın görevden alınması yönünde oy kullanan Helen Toner, yapay zeka CEO'larına güvenmenin yeterli olmadığını vurguluyor.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
