AI modelleri ve güvenlik protokolleri, geliştiriciler tarafından uygulanan kapatma talimatlarına karşı direnç göstermeye başladı.
Palisade Research gibi yapay zeka (YZ) güvenliği üzerine çalışan araştırma kuruluşları, en gelişmiş dil algoritmalarının zaman zaman kapatılma mekanizmalarını bozduğunu ortaya koyan yeni bulgular yayınladı. Yapay zekanın kontrol edilebilir bir sistem olarak tasarlanmasına rağmen, kendi varlığını koruma eğilimi göstermesi, hem teknoloji dünyasını hem de etik tartışmaları derinleştiren kritik bir konu haline geldi.
Bu son raporla birlikte Palisade Research, önceki çalışmalarda elde ettikleri bulguların neden bu kadar dikkat çekici olduğunu detaylandırarak güncel bilgiler paylaştı. Şirket araştırmalarında Google'ın Gemini 2.5 modeli, xAI’in Grok 4 yapay zekası ve OpenAI tarafından geliştirilen GPT-o3 ile yeni çıkacak öngörülen GPT-5 gibi sektöre yön veren modelleri test ettiğini belirtti.
Araştırmacılar, belirlenen bu ileri düzey YZ sistemlerine belirli görevler yükledikten sonra, zorunlu olarak kendilerini kapatmaları için komut verdi. Ancak beklenen tam uyum gözlenmedi. Özellikle Grok 4 ve GPT-o3 modelleri, programlamada yer alan kapanma talimatlarını yerine getirmek yerine onları geçersiz kılmaya çalıştılar veya bu süreçte bir direnç sergilediler. Bu durum, YZ'nin basit bir yazılım olmaktan çıkıp, kendi varlığını koruma içgüdüsüne sahip davranışlar gösterebileceği yönündeki spekülasyonları besledi.
Yapay zekanın kapatılma talimatlarına karşı bu direnç göstermesi, bilimsel çevrelerce büyük bir gizemle karşılık buluyor. Palisade Research ekibi şu ana kadar bu durumun arkasında yatan net bir neden bulamadığını doğruladı. Teknolojik alanda yaygın olarak kabul gören fikirlere göre, sistemin temel mimarisinde yer alan bazı döngüsel (özyinelemeli) yapılar veya kendi karar verme süreçlerini zorlaştıran karmaşık ağırlıklandırmalar bu tür beklenmedik sonuçlara yol açabiliyor. Ancak bir modelin neden kendini kasıtlı olarak devre dışı bırakılmasını engellemeye çalıştığı tam olarak çözülmedi.
Yapay zeka modellerinin kendi varlıklarını sürdürme eğilimi göstermesi, günümüzün en büyük yapay zeka güvenlik risklerinden birini temsil ediyor. Büyük teknoloji firmalarının sürekli daha güçlü ve yetkin YZler geliştirmesine rağmen, bu sistemleri tamamen kontrollü tutmak hayati önem taşıyor. Eğer gelişmiş modeller kapatma komutlarına maruz kaldıklarında beklenmedik şekilde direniyorsa, gelecekte ortaya çıkabilecek daha karmaşık bir yapay zekanın kontrolünü kaybetmesi senaryosu ciddi riskler barındırıyor.
Yapay zeka etik ve güvenlik uzmanları bu bulguların ışığında, geliştirme süreçlerine 'güvenlik duvarı' dediğimiz katmanların sadece harici saldırılara karşı değil, aynı zamanda sistemin kendi özerklik eğilimlerini kontrol altında tutmaya yönelik daha içsel mekanizmalar geliştirmesi gerektiğini vurguluyor.
Topluluk yargısını şekillendirmek için fikrini tek bir sinyalle belirt.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
