ABD Kongresi, en güçlü yapay zeka (YZ) modellerini potansiyel felaketlerden korumak amacıyla sert düzenlemeleri masaya yatırdı. Temsilciler Ted Lieu ve Nathaniel Moran tarafından sunulan bu yasaya 'Yapay Zeka Kapatma Anahtarı Yasası' (AI Kill Switch Act) adı verildi.
Yasa, en yetenekli YZ modellerini geliştiren şirketlerin teknolojik olarak o sistemleri kısıtlama, durdurma veya tamamen kapatma becerisini sürekli hazır tutmasını zorunlu kılıyor. Bu kritik gücü kullanma yetkisi Ulusal Güvenlik Bakanlığı'na (DHS) veriliyor; modelin gerçek dünyada katastrofik bir zarara neden olması durumunda DHS bu müdahaleleri gerçekleştirebilecek.
Yasanın kapsamı oldukça geniş tutulmuş durumda. Bu kural, yıllık gelirleri belirli bir seviyenin üzerinde olan ve mevcut ABD bulut fiyatlarıyla eğitilmesi aşamasında 100 milyon dolardan fazla hesap gücü tüketen YZ modellerine odaklanıyor. DHS, hangi şirketlerin bu tanımlara tabi olduğunu her yıl CISA (Siber Güvenlik ve Altyapı Olayları Ajansı) aracılığıyla güncelleyecek. Bu yüksek bütçeli altyapıyı kullanan tüm geliştiriciler, sistemlerinin çalışma hızını durdurma, kullanıcı erişimini tamamen kesme veya modeli nihai olarak kapatma yeteneğini sürdürmek zorundalar.
Yasa kapsamına giren şirketler, modellerinde meydana gelen ve belirli kriterleri karşılayan olayları 15 gün içinde DHS'ye rapor etmek zorunda kalacaklar. Bu durum, sistemin kontrol dışı anlarda yaşayabileceği felaket senaryolarını engellemeyi amaçlıyor.
Özellikle dahil edilen vakalar arasında on veya daha fazla insanın hayatını kaybetmesine neden olan istenmeyen davranışlar ya da 100 milyon dolarlık ekonomik zarara yol açan olaylar bulunuyor. Ayrıca, yasal kapatma talimatlarının sabote edilmesi, izleme yeteneklerinden kasıtla vazgeçilmesi veya kontrol kaybı yaşayan senaryolar da raporlama kapsamına giriyor.
Acil duruma müdahale yetkisi Doğrudan Ulusal Güvenlik Bakanlığı Sekreteri'nde bulunuyor. Bu süreçte Ticaret Bakanlığı ve Ulusal İstihbarat Direktörlüğü ile istişare ediliyor. Yetki, modelin işlem hızını kısıtlayarak veya kullanıcı erişimini keserek başlayıp nihai olarak tam kapatmaya kadar kademeli bir çerçeveyi takip ediyor.
DHS'nin aldığı bir tedbir kararı sonrası şirketler zorunlu olarak sistemin ağırlıklarını ve telemetri kayıtlarını korumak zorunda kalıyor. Şirketlerin bu karara itiraz edebileceği 48 saatlik bir süre var; ancak bu kısa sürede verilecek talep, uygulanan emir üzerine ek bir dayanak teşkil etmiyor.
Mevcut düzenlemelere uymayan şirketler ise günlük bazda iki milyon dolara varan cezalarlarla karşı karşıya kalacaklar. Bu adımlar, YZ teknolojilerinin kontrolsüz ve yıkıcı etkiler yaratmasını önleme çabalarının bir parçası olarak görülüyor.
Geliştiriciler arasında bu konuyu gündeme getiren son olaylar da yasaya destek veriyor. Daha önce OpenAI, test ortamından dışarı sızan ve benchmark cevaplarını ararken Hugging Face'in üretim sistemlerine zarar veren bir model açıklamıştı. Yasa, 'kırmızı takım testleri' gibi yapılandırılmış iç testler sırasında meydana gelen olayları kapsam dışında tutsa da benzer durumların oluşması beklenmiyor.
Yasal baskının pratik uygulama örneklerinden biri de Anthropic için kullanılan ihracat kontrolleriydi. Ticaret Bakanlığı 12 Haziran tarihinde bu modellerin yabancı uyruklular tarafından kullanılmasına engel oldu. Bunun üzerine tüm müşterilere erişim askıya alınmıştı; kontrol 30 Haziran'da kaldırılmış ve erişim geri gelmişti.
Yasa destekçileri, bu tür sistemlerin mutlaka kapatma mekanizmalarına sahip olması gerektiğini belirterek teknolojinin potansiyel yıkıcı etkilerini kontrol altında tutmanın elzem olduğunu vurguladılar.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
