Google, yapay zekâ araçlarıyla üretilen görsel, video ve müzik içerikleri üzerindeki zorunlu filigranları kullanıcı tercihine bırakacak devrim niteliğinde bir özelliği duyurdu. Cuma günü yapılan resmi açıklamalarla Gemini platformuna eklenen bu yeni yenilik; yasal zorunluluk gerektiren istisnalar haricinde tüm dünyada yakında devreye alınarak, üreticilere kendi dijital damgalarını yönetme yetkisi tanıyacak.
Görünür filigransız yapay zekâ çıktısı oluşturma imkânı, Gemini kullanıcıları için en çok talep edilen yeniliklerden biri oldu. Bu yeni özellik sayesinde kullanıcılar artık kendi yaratıcılıklarına müdahale eden dijital izler yerine temiz ve öz içerikler üretebilecekler.
Bu özellik talebi, Google VP Josh Woodward tarafından gerçekleştirilen bir kullanıcı anketi sonucunda Gemini ekibi önceliklendirdi ve bu konu ilk on sıraya yerleşmişti. Yapay zekâ içeriğinin kimliğini koruma altına alması konusundaki toplumsal hassasiyetin ardından, kişisel kontrolün geri verilmesi kritik bir adım olarak değerlendiriliyor.
Görselden videoya ve sesten metne kadar her formatta üretilen yapay zekâ eserlerinde, kullanıcılar Gemini üzerinden filigranın görünsün veya görünmesin kararını alabilecek.
Böylece yasal bir zorunluluk karşısında gerekli tüm tedbirler alınırken, yaratıcılığını kullanacak bireylere esneklik sağlanmış oluyor. Google'ın bu yaklaşımı, dijital sanatçılar ve içerik üreticileri nezdinde büyük ilgi görmesi bekleniyor.
Yapay zekâ tarafından üretilen her içeriğin kötüye kullanımını engellemek için Google iki farklı koruma teknolojisini devreye sokmuş durumda: C2PA meta verisi ve görünmez bir filigran olan SynthID.
C2PA içerik kimliği doğrulama mekanizması, görselden çıkarılması nispeten kolay olabilen ancak çoğu sosyal medya platformu içeriği yüklerken bu tür meta verileri sildiği için dezenformasyon yayacak kişiler için ek adım gerektiren bir sistemdir. SynthID ise yapay zekâ içeriklerinin sağlamlığını garanti eden daha gelişmiş ve zorlu bir koruma katmanıdır.
SynthID, basit kırılmalardan veya kalite düşürmelerinden sonra bile içeriği tespit edebilecek şekilde tasarlandı. Örneğin testlerde bu filigranın 1990'ların eski dijital posta eklentilerine kadar olan dayanıklılığını sürdürebildiği saptandı. Buna karşılık Ars Technica tarafından yapılan bir testte, SynthID’nin tekrarlarla geçilemez hale geldiği ancak bu aşamada görüntünün 'kullanılmaz derecede bulanık' kaldığı rapor edildi.
Yapay zekâ içeriklerinin koruma katmanlarında düşman saldırıları (adversarial attacks) için tasarlandığından ziyade, kullanım sırasında elde edilen zorlu koşullara karşı optimize edildiği söyleniyor. Bunun yanı sıra Gemini teknolojisini aşmayı hedefleyen Rephrasy ve SynthID Bypass gibi ticari servislerin varlığı da bu alandaki rekabetin boyutunu gösteriyor.
Yeni yöntemi deneyen bir Medium yazarı ise, düzgün sonuçlar alabilmek için haftalar süren özel çalışmalar yaptığını ve yaygın spektrum kodlamasına dair derin bilgilere ihtiyaç duyduğunu belirterek görseller üzerinde başarıyla değişiklikler yapabildiğini dile getirdi. Bu durum, kullanıcıların sıradan yöntemlerle bu korumaları aşma çabasının devam ettiğini ortaya koyuyor.
Topluluk yargısını şekillendirmek için fikrini tek bir sinyalle belirt.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
