Yapay Zeka
Anthropic’in Claude İçerik Denetleme Aracı Geldi: Ama Büyük Bir Eksikle
Anthropic, Claude ile üretilen içerikleri tespit etmek için yeni bir web aracı yayınladı.
Hexcore
3 dk
Veri Ağına Aktar
Anthropic, Claude yapay zeka araçlarıyla üretilen metinlere dijital filigran ekleyeceğini duyurmasından yalnızca birkaç hafta sonra, bu filigranları kontrol etmek için yeni bir web aracı yayına aldı. claude. com/check-content adresinde hizmet veren ücretsiz araç, kullanıcıların dosya yüklemesine ve içeriğin Claude tarafından işlenip işlenmediğini anında tespit etmesine olanak tanıyor.
Araç, dosyada C2PA standardına uygun içerik kimlik bilgileri bulursa, "Bu dosya Claude tarafından işlendiğine dair işaretler gösteriyor" şeklinde bir onay mesajı veriyor. Ancak bu özellik, bir ödevin Claude ile yazılıp yazılmadığını kanıtlamak isteyen öğrenciler veya karşı tarafın mesajlarının gerçekten insan elinden çıkıp çıkmadığını merak edenler için şimdilik hayal kırıklığı yaratacak cinsten.
Anthropic'in yeni denetleme aracı, şu an için yalnızca görsel, ses ve video dosyalarını kabul ediyor. JPEG ve GIF gibi yaygın görsel formatlarının yanı sıra MP3 ses dosyaları ve MOV video dosyaları da kontrol edilebiliyor. Ne yazık ki PDF, DOCX veya TXT gibi metin tabanlı dosyalar için henüz bir destek bulunmuyor. Şirket, C2PA standardının yeni dosya formatlarını kapsayacak şekilde genişlemesi durumunda aracın da bu formatları destekleyeceğini belirtiyor.
Anthropic sözcüsü, aracın özellikle Claude kullanımını C2PA endüstri standardı üzerinden tespit etmek için tasarlandığını, daha kapsamlı bir yapay zeka tespit aracının ise geliştirilme aşamasında olduğunu ancak henüz kullanıma sunulmadığını ifade etti. Sözcü, "Metin kontrolü, ayrı bir araç olan Detection API üzerinden yapılıyor ve şu anda özel önizlemede. Önümüzdeki aylarda bu konuda daha fazla bilgi paylaşmayı umuyoruz" dedi. Bu açıklama, aracın üzerindeki notla da örtüşüyor: "Metinlere gömülü filigranları tespit etmek için, AB yasaları gereği uygun kuruluşlara özel önizleme olarak sunulan bir Detection API'miz bulunuyor."
Anthropic, Claude tarafından üretilen metinlere eklenen filigranların çıktıların kalitesini, hızını veya maliyetini etkilemeyeceğini, görünür olmayacağını ve metnin işlevselliğine ya da görünümüne zarar vermeyeceğini açıkladı. Ancak bu filigranlar, Claude ile oluşturulan metin bir yerden başka bir yere kopyalanıp yapıştırılsa bile metinle birlikte kalacak. Şirket, filigran dedektörüne erişmek isteyen işletmeler veya kuruluşlar için bir kayıt formu da yayınladı.
Web tabanlı araç, sürükle-bırak yöntemiyle dosya kabul ediyor veya mobil cihazlardan cihaz deposu ya da Google Drive üzerinden dosya seçme imkanı sunuyor. Sitenin açıklamasına göre, seçilen dosya cihazda veya dosya hizmetinde kalıyor; denetleyici yalnızca dosyanın kimlik bilgilerini okuyor, dosyanın kendisini değil. "Dosyanız asla saklanmaz veya başka bir amaçla kullanılmaz" ifadesi, gizlilik endişesi taşıyan kullanıcılar için güvence veriyor.
Araç şu anda küresel olarak erişime açık ve Türkiye’den de claude. com/check-content adresi üzerinden kullanılabiliyor. Ancak metin filigranı tespiti için sunulan Detection API’nin özel önizleme aşamasında olması ve AB yasalarına dayanması, Türkiye’deki bireysel kullanıcıların bu özelliğe hemen erişemeyeceği anlamına geliyor. Şirketin, API’yi genel kullanıma açması durumunda Türkiye’deki kullanıcıların da bu araca erişebilmesi bekleniyor.
Anthropic’in bu hamlesi, yapay zeka içeriklerinin şeffaflığı konusunda önemli bir adım olarak değerlendiriliyor. Özellikle dezenformasyonla mücadele ve akademik dürüstlük gibi alanlarda, yapay zeka üretimi içeriklerin tespiti giderek daha kritik hale geliyor. Şirketin, C2PA standardını genişletme planları ve Detection API’nin gelecekteki sürümleri, bu alandaki boşluğu doldurmayı hedefliyor.
Google, Gemini 3.8 Flash modelini tanıttı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
