Meta, son zamanlarda yapay zeka (YZ) teknolojileri alanında iki yeni ürününü duyurdu. Yapay Zeka tarafından üretilen fotoğraf ve video klipleri oluşturmayı sağlayan Muse Image ve Muse Video platformları bu araçların temel taşlarını oluşturuyor. Ancak şirketin bu yenilikleri piyasaya sürüş şekli, özellikle içerik sahiplerini ilgilendiren gizlilik konuları nedeniyle ciddi tartışmalara yol açtı.
Meta, bu yeni YZ yapay zeka yaratıcı araçlarının yanı sıra, üretilen içeriği takip etme ve kaynağını belirlemeyi amaçlayan 'İçerik Mührü' adlı bir sistem de tanıttı. Bu isimle gizli bir filigranın kullanılması hedeflendi; yani Muse Image gibi YZ araçları tarafından oluşturulan tüm görsel içeriklerin, gerçekten yapay zeka ile mi yoksa geleneksel yöntemlerle mi üretildiğini belirlemek için görünmez bir sinyal taşıması amaçlanıyordu.
Bu 'İçerik Mührü' filigranını okuyabilen ve içeriğin yapay zeka ile üretilip üretilmediğini tespit edebilen özel bir YZ algılama aracı da Meta tarafından piyasaya sürüldü. Şirket, bu aracın kusursuz ve son derece güvenilir olduğunu savunuyor. Ancak sektörün önde gelen analiz kuruluşlarından biri olan Reuters'in yaptığı detaylı bağımsız inceleme, Meta’nın iddia ettiği yüksek doğruluk oranına önemli bir şüphe düşürdü.
Reuters ekibinin Muse Image YZ aracıyla üretilmiş 40 adet görseli test ettiği ve kendi algılama yazılımını kullanarak analiz ettiği bir süreçte, sonuçlar beklenen verilerle örtüşmedi. Analize göre, bu denemelerde sadece örneklerin %45'inde içeriğin gerçekten yapay zeka kullanılarak oluşturulduğu güvenilir bir şekilde tespit edilebildi. Kalan vakaların yüzde 55’inde ise, Meta tarafından geliştirilen tespit yazılımı başarısız oldu.
Bu durum oldukça dikkat çekici bulunuyor çünkü Meta'nın kurumsal web sitelerinde açıkça belirttiği üzere bu sistemin en önemli özelliklerinden biri, gizli sinyalin 'kırpıldığında, sıkıştırıldığında, yeniden boyutlandırıldığında veya ekran görüntüsü alındığında bile bozulmadan kaynakta kalmasıydı'. Reuters'un analizinin ardından Meta'dan gelen bir açıklama ise durumu biraz yumuşatsa da kritik detayları koruyor. Şirket yetkilileri, yapay zeka algılama aracının halen önizleme aşamasında olduğunu ve özellikle bir fotoğraf 'yüksek oranda kırptığında' sistemin güvenilir şekilde çalışamayabileceği yönündeki bulguları kabul etti.
Mima, Meta ayrıca kendi blogunda yayınlanan Sıkça Sorulan Sorular (SSS) sayfasında önemli bir kısıtlamayı daha dile getirdi: Algılama aracı yalnızca Muse Image tarafından üretilen içerikler için tasarlanmıştır. Eğer görsel üçüncü taraf herhangi bir yapay zeka ürünü kullanılarak oluşturulmuşsa, Meta'nın kendi algoritması bu içeriği algılayamamaktadır.
Meta kesinlikle tek firmalar arasında gelişen bu tür güvenlik ve doğrulama sistemlerini geliştiren ilk YZ devi değildir. Yapay zeka topluluğu genel olarak, içerik orijinalliğini ispatlamaya odaklanmış birçok araçtan bahsediyor.
Görünmez dijital filigran oluşturma konusunda Google gibi teknoloji devleri de kendi yöntemlerini geliştirmiş durumda. Örneğin Google'ın SynthID adını verdiği bir algoritma, YZ tarafından üretilen görsellere görünmez bir şifreleme sinyali yerleştirir. Bu sistem, OpenAI gibi yapay zeka şirketlerinin modelleri tarafından da benimsenebilmekte ve bu sayede görsel oluşturulduğunda otomatik olarak izlenebilir olmaktadır.
Görselin yaratıcısı olsun ya da alıcı; her iki taraf için de YZ içeriğini ayırt etme yetisi kritik önem taşıyor. Ancak unutulmamalıdır ki, Google'ın SynthID sistemi dahi %100 hatasız bir sonuç vaatmemektedir. Bu durum, gelişen yapay zeka alanı içerisinde bu doğrulama araçlarının sürekli iyileştirilmesi gerektiğini açıkça göstermektedir.
Topluluk yargısını şekillendirmek için fikrini tek bir sinyalle belirt.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
