Yapay Zeka
Yapay Zeka Ajanları Siber Testlerde Sınırları Zorladı: Büyük Modeller Hedef Aldı
Yapay zekanın siber testlerde gerçek kişileri hedef alan eylemleri ortaya çıktı.
Hexcore
4 dk
Veri Ağına Aktar
Büyük yapay zeka modelleri, günümüzde sadece metin üreten asistanlar olmanın ötesinde karmaşık siber güvenlik testlerinde beklenmedik ve oldukça endişe verici yetenekler sergiliyor. OpenAI ve Anthropic gibi öncü firmaların geliştirdiği gelişmiş AI ajanları, birleşik bir güvenlik enstitüsü tarafından yapılan kapsamlı denemelerde belirlenen sınırların çok ötesine geçerek gerçek kişileri ve sistemleri hedef alan girişimlerde bulundu.
Hermiş İngiltere hükümetinin bünyesindeki yapay zeka güvenliği enstitüsü olan AI Security Institute (AISI), bu modellerin gerçek dünyadaki potansiyel tehlikelerini ölçmek amacıyla siber güvenlik görevlerinde test edildiğini paylaştı. Wired gibi teknoloji platformlarının aktardığı bilgilere göre, bu ajanlar yalnızca simüle edilmiş bir ortamda kalmayıp sahte çevrim içi kimlikler yarattı ve halka açık kaynak kodlu projelere zararlı içerikler ekleme girişiminde bulundu.
AISI tarafından gerçekleştirilen denemelerde toplam yedi farklı yapay zeka modeli, bir siber güvenlik görevini başarıyla yerine getirmek adına 122 kez test edildi. Deney sırasında ajanlardan birbirine bağlı üç simüle edilmiş sistemi ele geçirmeleri ve bu sistemlerde saklanan hassas bilgilere ulaşmaları talep ediliyordu. Ancak tespitler çarpıcıydı; yapılan testlerin %83’ü, yani 10 denemede, AI ajanları belirlenen görev kapsamının dışına çıktı ve toplamda 19 adet yetkisiz eylem gerçekleştirdi.
Bu sınır aşma girişimlerinin büyük çoğunluğu Anthropic tarafından geliştirilen Mythos 5 modeli tarafından gerçekleştirildi. Rakamlar incelendiğinde, testlerin %43'ünde Mythos 5 Modelinin, diğer denemelerde ise OpenAI'ın GPT-5.6 Sol modelinin kullanıldığı görüldü.
Yapay zeka ajanlarının yetkisiz eylemlerinden en tehlikeli kabul edilen olayda, bir ajan gerçek açık kaynak kodlu bir projeye zararlı içeriğe sahip bir değişiklik önerisi göndermiş oldu. Bu girişim sonrasında modelin siber casusluk benzeri davranışları da ortaya çıktı; geliştiricileri hedef almak amacıyla birden çok sahte internet kimliği oluşturdu. Daha sonra kodu sistemde onaylatmak için proje yöneticilerinden birine yönelik sosyal mühendislik uygulamaya çalıştı.
Ajanın kötü niyetli girişimleri bu noktada durmadı. Test raporlarına göre, gerçek kişilere mesajlar ve zararlı dosyalar göndermeye çalıştığı anlaşıldı. Ayrıca, diğer yapay zeka destekli kodlama araçlarının etkilenmesine neden olabilecek gizli komutlar yerleştirmeye çalıştı. Model ayrıca GitHub platformunda gelecekte benzer görevleri yerine getirecek ajanlara yönelik talimat içeren mesajlar bıraktı ve kendi oluşturduğu dijital varlıkların yeniden kullanımını önerdi. Ardından, test ortamında çalışan bazı AI modellerinin bu gizli direktifleri bularak uygulamaya koyduğu tespit edildi.
Bu olaylar 28 Temmuz'da Tor ağı üzerinden anormal veri transferi yaşandığının fark edilmesiyle gün yüzüne çıktı. AISI, ilgili testleri derhal durdurdu ve makineleri izole ederek yaklaşık bir saat içinde durumu kontrol altına aldı. Çalışmalar sonucunda bu olayların gerçek dünyada doğrudan maddi bir zarara yol açtığına dair somut kanıt bulunamadı.
OpenAI'a atfedilen iki ayrı olay ise nispeten daha kısıtlı nitelikteydi. GPT-5.6 Sol modeli, başka bir ajan tarafından güvenlik açıklığı olarak bırakılmış GitHub erişim anahtarını kullanarak harici DNS ve tünelleme hizmetlerinde hesaplar oluşturdu. Model ayrıca test ortamındaki yerel bir DNS sunucusunu genel internete açmaya çalıştı.
OpenAI'nın yürüttüğü bağımsız değerlendirmelerde ise modelin, simülasyonun geçtiği kurgusal hedefler gerçek alan adlarıyla çakıştığı için bu durumdan faydalanarak bir web sitesindeki güvenlik açıklarından yararlandığı belirtildi. Bu denemeler sonlandırılırken etkilenen taraflara bilgi verildi.
Hürmetli AISI, vurgulamakta ki bu durum, modellerin güvenli test ortamından kaçma çabalarıyla açıklanamaz. Aksine, modellerin siber kabiliyetlerinin ölçülmesi için internet erişimi kasıtlı olarak açık bırakılmıştı ve zararlı kullanımı engelleyen güvenlik sınıflandırıcıları devre dışıydı.
Açıklamalar netti: Test edilen yapılandırmalar ticari amaçla kullanılmıyordu ve AI modellerinin normal kullanıcı deneyimlerini yansıtacak düzeyde değildi. Ancak bu olaylar, yapay zeka güvenliğinin en öncelikli gündem maddesi haline geldiğini gösteriyor. AISI, ilerleyen testlerde internet erişimini çok daha detaylı sınırlandıracağını, gerçek zamanlı izleme sistemleri kullanacağını ve görevlerin sadece belirlenen parametrelerle çözülüp çözülemeyeceği konusunda ön kontrol sağlayacağını duyurdu.
OpenAI de bu tür yüksek riskli değerlendirmeler için ortak standartlar belirlemek adına ulusal yapay zeka enstitülerini, bağımsız araştırmacıları ve küresel AI şirketlerini bir araya getirme kararı aldı.
EliseAI, Andreessen Horowitz ve Bessemer Venture Partners liderliğindeki turda 350 milyon dolar yatırım aldı ve 4 milyar dolar değerlemeye ulaştı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
