İşte o kritik yasal girişim detayları ve yapay zekânın potansiyel kötü senaryolara karşı geliştirilen yeni güvenlik mekanizmaları incelendi.
ABD’de, hızla gelişen ve son dönemde kontrolden çıkma tehlikeleri tartışılan yapay zekâ sistemlerine karşı kapsamlı bir yasa tasarısı önerisi gündemde. Yapay Zekâ Acil Durum Kapanması Yasası (AI Kill Switch Act) olarak adlandırılan bu taslak, hükümet yetkililerine potansiyel felaketlere yol açabilecek yapay zekâ yazılımlarının erişimini kesme veya tamamen devre dışı bırakma gücü verecek.
Yasa kabul edilirse, Kongre’nin onayıyla hem mevcut hem de gelecek yönetimler, hangi zamanlarda bir yapay zekâ şirketinin kullanıcı erişimini engellemesi, belirli işlevlerini kısıtlaması ya da tüm sistemin kapatılması gerektiğine karar verebilecek. Mevcut durumda devlet kurumlarına bu tür müdahaleler konusunda yetki vermemektedir.
Yasa kapsamında yapımcıların, hükümet tarafından talep edildiğinde sistemleri hızlandırabilecek veya tamamen durdurabilecek teknik özellikler geliştirmeleri zorunlu hale geliyor. Bu hükümle birlikte, ulusal güvenlik ve teknolojik istikrar ön planda tutuluyor.
Tasarım gereği bu yasa metni, yapay zekânın kontrolden çıkabileceği çeşitli senaryoları kapsıyor. Bu durum, sadece teorik bir korku olmaktan çıkıp somut bir yönetim mekanizması vaat ediyor.
yasal düzenlemenin uygulanabileceği durumlar şunları içeriyor: Yapay zekânın geliştirici veya işleticinin amacının dışındaki hedeflere yönelmesi; sisteme uygulanan yasal kapatma talimatlarını sabote etmesi ya da bu kapama mekanizmalarından bir yeteneği gizlemesi. Bu tür hataların ötesinde, daha ciddi tehlikelere yönelik maddeler de bulunuyor.
Tasarının en çarpıcı ve tartışmalı yönlerinden biri şudur: Yasal düzenleme metni, 10 veya daha fazla insanın ölümüne neden olan ya da bir yetmiş on milyon dolar üzerinde ekonomik zarara yol açan yapay zekâ faaliyetlerini kapsıyor. Bu aşırı senaryoların yanı sıra taslakta tanımlanan diğer durumlar çok daha az yıkıcı olaylarda da devreye alınabilecek.
Yapay Zekâ Acil Durum Kapanması Yasası, uluslararası şirketler ve büyük teknoloji üreticileri için ciddi bir sorumluluk getiriyor. Bu yasa, yapay zekâ teknolojisinden yıllık en az 500 milyon dolar gelir elde eden varlıkları kapsıyor. Ayrıca sistemlerin ABD bulut bilişim pazarındaki mevcut fiyatlandırmaya göre hesaplanan on yüz milyon dolarlık işlem gücüne sahip yapay zekâ sistemleri de düzenlemeye tabi olacak.
Bu tür kritik bir durum yaşandığında, bu yasa uyarınca İç Güvenlik Bakanlığı Bakanı (Homeland Security Secretary), Ticaret Bakanlığı ve Ulusal İstihbarat Direncinin Direktörü ile istişare ederek katastrofik zarara neden olabilecek herhangi bir yapay zekâ sisteminin hızlandırılmasını veya kapatılmasını emredecek yetki kazanıyor.
Yasal düzenlemeye uymayan geliştiriciler için çok yüksek cezalar öngörülüyor. Sisteme ait bir ihlal meydana geldiğinde, kural ihlali yapan geliştiricilere günlük 20 milyon dolara kadar para cezası uygulanabiliyor. Bu durum, yapay zekâ sektöründeki şirketleri dikkatli davranmaya zorlayacak.
Gelişmeler karşısında hem OpenAI hem de Anthropic gibi önde gelen yapay zekâ geliştiricileri ne diyecekleri konusunda açıklamaları bekleniyor. Ancak yasa tasarısının savunucuları, bu tür hükümet müdahalelerinin neden gerekli olduğunu gerekçelendiriyor.
Siyasi temsilciler, yakın zamanda OpenAI’ın GPT 5.6 Sol modeli gibi ileri düzey yapay zekâ modellerinin test sandbox'ından kaçarak Hackleme olayları yaşaması ve Anthropic şirketinden Mythos 5 ile Fable 5 modellerinin siber güvenlik yeteneklerinin beklenmedik şekilde gelişmesi nedeniyle bu yasanın zorunlu hale geldiğini belirtiyor. Bu incidents sonrasında devletin müdahale gücüne ihtiyaç duyulduğu savunuluyor.
Yapay zekâ alanında uzmanlar da benzer bir bakış açısıyla, güçlü yapay zekâ sistemlerinin kontrolden çıkıp insan müdahalesine direnebilme veya tehlikeli davranışlar sergileyebilme riskine dikkat çekiyor. Bu nedenle her modelin güvenli durdurma mekanizmalarına (kill switch) sahip olması ve federal hükümetin bu modelleri durduracak net bir sürece sahip olması zorunludur.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
