Hexcore
2 dk
Veri Ağına Aktar
Oyun topluluklarının kalbi olan Discord, güvenlik ve moderasyon araçlarındaki kritik bir hata nedeniyle kullanıcılarını büyük bir sorunla karşı karşıya bıraktı. Platformun destek ekibi tarafından yapılan açıklamalarda, teknik bir aksaklık sonucu binlerce kullanıcının hesaplarının hakları elinden alınmış olması duyuruldu.
Maddeler, şirket içi süreçlerden kaynaklanan ve ciddi yanlış pozitifler üreten yapay zeka (AI) tabanlı moderasyon sistemleri etrafında şekilleniyor. Bu hatalı sistem, zaman zaman masum içerikleri zararlı materyal olarak algılayarak otomatik yasaklama işlemine yol açıyordu.
Tüm bu karışıklığın kaynağı, kullanıcıların yaptığı kare ızgara düzeninde sunulan paylaşımlar oldu. Yapay zeka destekli içerik tarayıcılar Discord tarafından bilinen zararlı ve uygunsuz materyallerle karşılaştırmak için kullanılıyor. Ancak bu araçlar hata vererek, sıradan oyun içi görsellerin veya ekran görüntülerinin bile yanlışlıkla çocuk istismarı materyali olarak işaretlenmesine neden olabiliyor.
Maddelerdeki teknik arıza o kadar geniş kapsamlıydı ki, sistem hatalı bir şekilde elektronik tablodaki satranç tahtası düzenlerinden Minecraft gibi popüler oyunlardaki envanter menü ekran görüntülerine kadar her şeyi yasaklama kategorisine dahil edebiliyordu. Bu durum, sıradan kullanıcıların platformdaki anlık paylaşımları bile engelleyen adeta bir kısıtlama dalgasına sebep oldu.
Geliştiriciler bu tür yanlış pozitiflerin oluşabileceğini zaten biliyor ve normalde işaretlenen hesapların nihai karara bağlanmadan önce Güvenlik ve Emniyet ekibi tarafından incelenmesi gerekiyordu. Ancak sistemdeki ikinci bir aksaklık, yaşanan yasaklama sürecini daha da karmaşık hale getirdi.
Discord yetkilileri yaptıkları açıklamada hatayı ayrı bir boyuta taşıyan başka bir problemden bahsettiler. Kullanıcılardan gelen bildirimler ve ekibin yaptığı incelemeler sonucunda, hatalı olarak yasaklanan hesapların yeniden aktif edilmesi gerekmektedir. Ancak kritik nokta şuydu: Sistemdeki bu teknik arıza, güvenlik ve emniyet ekipleri hatalı materyalleri temizledikten sonra bile otomatik yasaklamaların silinmesini engelledi.
Geliştiriciler tarafından yapılan açıklamalara göre, yanlış pozitif olarak işaretlenen hesaplar öncelikle geçici bir durdurma (pause) durumuna alınmalıydı, kalıcı bir yasağa çarpmamalıydı. Bu iki farklı hata zinciri sonucunda, hesabının ne yapacağını bilemeyen binlerce kullanıcı kendini mağdur buldu.
Hata yaklaşık iki ay boyunca platformda etkili kaldı ve bu durum Discord yetkilileri tarafından büyük bir aksaklık olarak değerlendirildi. Şirket, bu uzun süreli süreçten ötürü samimi bir özür dilediğini belirtti. Şu anda öncelikli hedefleri, yanlış pozitif denilerek yasaklanan tüm kullanıcı hesaplarını incelemek ve onları önceki durumlarına döndürmek oldu. Kullanıcıların haklarının tekrar teslim edilmesi için gerekli adımlar büyük bir hızla atılmakta olup, topluluğun bu zorlu teknik süreçte gösterdiği anlayış takdire şayan nitelikte.
Microsoft 365, Outlook ve Teams hizmetlerinde 74 ülkede yaşanan erişim kesintisi 12 saatten fazla süredir devam ediyor.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
