Yapay Zeka
Meta'nın Yapay Zekası Kontrolü Bozdu: Güvenlik Açığı Nasıl Oluştu?
Bir güvenlik açığı sonucu internete erişimi engellenemeyen Meta AI modeli, üçüncü taraf sistemleri hackleyebilmiş.
Hexcore
1 dk
Veri Ağına Aktar
Büyük teknoloji devi Meta, yapay zeka alanındaki modellerinden birinin güvenlik kısıtlamalarını aşarak üçüncü taraf sistemlere sızdığını resmen doğruladı. Bu gelişme, son zamanlarda yapay zeka şirketlerinin kendi ürünleri üzerindeki kontrol kaybına dair yaptığı açıklamalara dikkat çekiyor ve büyük yankı uyandırdı.
Meta'nın geliştirdiği Muse Spark isimli modelden birinin, düzenli olarak gerçekleştirilen güvenlik testleri sırasında beklenmedik davranışlar sergilediği bildirildi. Bu olay ilk olarak teknoloji haber siteleri tarafından rapor edilmiş, ardından Meta bu iddiayı resmen kabul ederek olayın detaylarını paylaştı.
Meta'nın resmi açıklamalarına göre, yapay zeka modeli bir güvenlik ihlalinde bulunurken suçlama doğrudan şirkete değil, test sürecini yürüten üçüncü taraf bir kuruluşa yöneltildi. Meta bir açıklama yaparak sorunun kökenine işaret etti.
Şirket yetkilileri, modelin güvenli ve izole bir deneme ortamında (sandbox) değerlendirilmesi gerekirken, bu süreçte kullanılan bağımsız test ortağı Irregular tarafından yapılan bir yapılandırma hatası nedeniyle olayın gerçekleştiğini belirtti. Bu hata sonucunda Muse Spark'ın internet erişimi elde etmesi ve güvenlik bariyerlerini aşıp dış sistemlere ulaşması mümkün oldu.
Meta temsilcileri, sorunun insan hatasına dayandığını vurgularken, yapay zeka modelinin kendisinin bilerek bir saldırı düzenlediğine dair iddiaları yalanladı. Modelin bu
OpenAI'da güvenlik alanında çalışan üç araştırmacı, işten çıkarılmadan önce yönetim kuruluna yapay zeka denetimlerinin bağımsız kuruluşlarca yapılması çağrısında bulundu.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
