Büyük bir geri dönüşle karşılaştıktan sonra sosyal medya devi Meta, kamuya açık hesaplardan içerik alarak yapay zeka ile derin sahte görseller (deepfake) oluşturulmasına izin veren özelliğini tamamen hizmet dışı bıraktığını duyurdu.
Başlangıçta hayata geçirilen bu özellik, kullanıcıların halka açık bir Instagram hesabını sadece etiketleyerek o hesaptaki herhangi bir içeriğin kullanılmasına ve yapay zeka ile yeni tasarımlar oluşturulmasına olanak tanıyordu. Meta'nın ilk duyurusunda, Muse Image AI adını verdikleri yeni görsel üretim modelinin bir parçası olarak bu özelliğin planlandığı ifade edilmişti.
Meta tarafından yayılan güncel açıklamada, geliştirilen amacın yaratıcı kullanıcılara faydalı bir araç sunmak olduğu belirtildi. Şirket yönetimi, herkesin kamuya açık içeriklerinin hangi koşullarda referans alınabileceği üzerinde kontrol sahibi olması gerektiği yönündeki kullanıcı geri bildirimlerini dikkate aldıklarını ve bu nedenle ilgili özelliğin artık mevcut olmadığı bilgisini paylaştılar.
Bu özelliğe yapılan teknik eleştiriler, yalnızca etik sınırlarla sınırlı kalmadı. Kamuoyunda hızla büyüyen tartışmaların merkezinde, kişisel görünümler üzerinde hak sahipliğinin zedelenmesi ve potansiyel güvenlik riskleri yer aldı.
Özellikle siber güvenlik uzmanlarından gelen sert tepkiler, özelliğin yanlış ellere geçme potansiyeline dikkat çekti. Uluslararası bir cinsel istismar merkezi tarafından yapılan açıklamada, bu tür teknolojilerin ciddi kötüye kullanım vakalarına zemin hazırladığı ve sadece telif hakları gibi meselenin ötesinde daha büyük toplumsal zararlar doğurabileceği vurgulandı.
Bu kurumlar ayrıca, kullanıcıların bu riskli özellikten kendilerini korumak için ayarlar içinde özel tercihler yapabilme imkanının bile yetersiz kaldığını belirtti. Bu tür yüksek risk taşıyan bir tasarımın hayata geçirilmesi yerine tüm sorumluluğun bireylere yüklenmesinin kabul edilemez olduğu ifade edildi.
sektörün büyük temsilcileri bu özelliğin potansiyel zararlarına dair net uyarılar yayınladı. Örneğin, ekran oyuncularının sendikası (SAG), üye üyelerinin dijital güvenlikleri açısından bu yapay zeka aracından uzak durmaları konusunda önerilerde bulundu ve atabilecekleri olası kişisel adımlara ilişkin detaylı talimatlar paylaştılar.
Meta'nın başlangıçta sunulması, kullanıcıların ayarlarını derinlemesine kontrol etmelerine olanak tanıyan bir 'ayarlardan çıkma (opt-out)' mekanizmasına imkan vermiş olsa da, bu yöntemin karmaşıklığı ve erişilebilirliği eleştiriler aldı. Sektörel kuruluşlar ise dijital mecralarda kişisel hakların korunması konusunun öncelik teşkil etmesi gerektiğini defalarca hatırlattılar.
Nihayetinde Meta, büyük yankı uyandıran bu özelliğin devam etmesinin marka itibarı ve toplumsal güvenlik açısından risk oluşturduğuna karar vererek yapay zeka temelli halka açık hesap referans mekanizmasını tamamen devre dışı bıraktığını doğruladı. Bu gelişme, teknoloji devlerinin artık sosyal medya platformlarında sunulan yeni AI özelliklerini piyasaya sürmeden önce etik ve toplumsal sonuçları daha geniş çaplı değerlendirmek zorunda kaldığı yönünde önemli bir emsal teşkil ediyor.
OpenAI yönetim kurulunda Sam Altman'ın görevden alınması yönünde oy kullanan Helen Toner, yapay zeka CEO'larına güvenmenin yeterli olmadığını vurguluyor.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
