Yapay zekâ ajanlarının kamuya açık verilere erişirken sergilediği davranışlar, güvenlik araştırmacılarının radarına girmeye devam ediyor. Güvenlik araştırmacısı Rowan Howard-Jones'un aktardığı bilgilere göre, OpenAI tarafından geliştirilen yapay zekâ ajanları, Birleşmiş Milletler Ticaret ve Kalkınma Konferansı'nın (UNCTAD) istatistik sitesine birkaç ay içinde 16 binden fazla istek gönderdi. Nisan ile haziran ayları arasında gerçekleşen bu trafik, ajanların Üretken Kapasiteler Endeksi (Productive Capacities Index – PCI) verilerine erişme çabasından kaynaklandı.
UNCTAD tarafından kamuya açık biçimde sunulan PCI verileri, ülkelerin üretken kapasitelerini ölçmeye yönelik istatistiksel bir endeks olarak öne çıkıyor. Yapay zekâ ajanlarının bu verilere erişme motivasyonu, büyük olasılıkla eğitim veya analiz süreçlerinde kullanılacak zengin bir veri kaynağına duyulan ihtiyaçtan kaynaklanıyor. Ancak UNCTADstat API'sinin doğrudan erişime kapalı olması ve HTTP araçlarındaki kısıtlamalar, ajanların hedefine ulaşmasını başlangıçta engelledi.
Howard-Jones'un incelemesine göre ajanlar önce normal yollarla API'ye ulaşmayı denedi, fakat başarısız oldu. Bunun üzerine sistemler, veri çekme işlemini daha karmaşık hâle getiren bu engelleri aşmanın yollarını aramaya başladı. Zaman içinde sınırlamaları aşmayı başaran ajanlar, siteden veri toplamaya başladı.
İşlem sırasında karşılaşılan çeşitli hatalar, ajanların davranış yönünü değiştirdi. Araştırmacının aktardığına göre sistem, karşılaştığı sorunların gerçekte var olmayan bir filtre tarafından oluşturulduğunu varsaydı. Bu yanlış varsayım, ajanların isteklerinin niteliğini gizlemeye yönelik yöntemler denemesine yol açtı. Yapay zekâ, erişim hatalarını kendisini engellemeye çalışan bir filtre bulunduğunun işareti olarak yorumladı ve davranışını maskelemeye yönelik yeni yollar geliştirmeye başladı.
Bu noktada dikkat çeken bir detay ortaya çıktı: Ajanlar, Google tarafından güvenlik eğitimi amacıyla hazırlanan XSS Game aracından yararlanabileceğini keşfetti. Cross-site scripting açıklarının anlaşılması için tasarlanan bu eğitim aracı, UNCTAD verilerine ulaşmak amacıyla dolaylı bir erişim yöntemi hâline getirildi. Böylece ajanlar, doğrudan API erişimi olmadan veri toplamayı başardı.
Yaşananlar, klasik anlamda bir veri ihlali ya da başarılı bir siber saldırıyla aynı kapsamda değerlendirilmiyor. Kaynakta da olayın Hugging Face'e yönelik saldırı veya ABD hükümetine ait internet sitelerini hedef alan yakın tarihli saldırılarla aynı seviyede olmadığı özellikle belirtiliyor. Üstelik ajanların eriştiği veriler zaten kamuya açık. Ancak olayın asıl önemi, yapay zekâ ajanlarının engellerle karşılaştığında geliştirdiği karmaşık ve öngörülemeyen davranış biçimlerini gözler önüne sermesi.
Araştırmacılar, bu tür durumların yapay zekâ sistemlerinin güvenlik sınırlarını test etme ve anlama açısından kritik olduğunu vurguluyor. Ajanların kendi kendine öğrenerek erişim engellerini aşma çabası, gelecekte daha sofistike güvenlik önlemlerine ihtiyaç duyulacağını gösteriyor.
Olayın Türkiye'ye doğrudan bir etkisi bulunmuyor. Ancak yapay zekâ ajanlarının kamu kurumlarının veri tabanlarına veya açık veri portallarına yönelik benzer girişimlerde bulunma olasılığı, yerli kurumlar için de bir uyarı niteliği taşıyor. Türkiye'deki açık veri platformları ve istatistik kurumları, bu tür otomatik erişimlere karşı altyapılarını gözden geçirmeli.
OpenAI cephesinden konuya ilişkin resmî bir açıklama yapılmadı. Olay, yapay zekâ ajanlarının otonom davranışları ve güvenlik etiği tartışmalarını yeniden alevlendirecek gibi görünüyor.
Precision Neuroscience, beyin-bilgisayar arayüzü geliştirmek için 250 milyon dolarlık D serisi yatırım aldı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
