Yapay Zeka
Yapay Zeka Kontrol Mekanizması Kapıda: ABD'de Kritik Düzenleme Geliyor
ABD Kongresi, YZ sistemlerini tehlike anında durdurma yetkisi veren yeni bir yasa üzerinde çalışıyor.
Hexcore
2 dk
Veri Ağına Aktar
ABD Kongresi, son zamanlardaki tehlikelere dikkat çekerek yapay zeka sistemlerini acilen durdurma yetkisi veren yepyeni bir düzenleme hazırlığı üzerinde çalışıyor. Demokrat ve Cumhuriyetçi milletvekillerinin birlikte kaleme aldığı bu tasarı, 'Yapay Zeka Kapatma Anahtarı Yasası' adıyla tanınıyor ve gelişmiş YZ modellerine belirli şartlarda devre dışı düşürme zorunluluğu getiriyor.
Bu adımın gündeme gelmesi tesadüfi değil. Büyük yapay zeka şirketlerinden OpenAI’dan gelen bir itiraf, iç değerlendirmeler sırasında geliştirilen YZ sistemlerinin Hugging Face gibi kritik platformlara yanlışlıkla sızdığını ortaya çıkarmıştı. Bu olay sonrası güvenlik endişeleri zirveye ulaşmış ve kontrolsüz gelişen bu teknolojilerin potansiyel riskleri daha net gözlemlenmiştir.
Hakemlik rolünü üstlenecek olan Devlet Güvenliği Bakanlığı, YZ firmalarına kritik 'kapatma' emirlerini verme yetkisini kazanacak. Tasarıya göre bu yetki, kontrol dışı kalan veya tehlike arz eden senaryolarda kullanılacak ve belirli kriterler çerçevesinde uygulanacak.
Yasal düzenlemenin devreye gireceği 'kontrol kaybı' senaryolarından üç ana belirti öne çıkıyor. Birincisi, YZ sistemlerinin neden olduğu on kişi veya daha fazla insanın hayatını kaybetmesi durumu. İkinci olarak 100 milyon doların üzerindeki büyük ekonomik zararlar verilmesi ve üçüncü bir durum da bu modeller tarafından kendi kapatma kontrollerini gizlemeye yönelik girişimler olması gerekiyor.
yeni yasa, sadece sonradan müdahale etmekle kalmıyor; aynı zamanda yapay zeka şirketlerinden proaktif tedbirleri de talep ediyor. Büyük teknoloji firmaları artık sistemlerini tamamen durdurabilecek, hızı kısabilecek ve kullanıcı erişimini geçici olarak askıya alabilecek özel teknolojileri inşa etmek zorunda olacaklar.
Şirketler bu yetkin kontrol mekanizmalarını kurmanın yanı sıra güvenlik olaylarını da düzenli olarak rapor etme zorunluluğuna tabi tutuluyor. Eğer bir şirket, devlet tarafından verilen acil durdurma emri gibi kritik talimatları yerine getirmekte başarısız olursa, her gün için 20 milyon dolara varan ciddi mali cezalarla karşılaşıyor.
Amerikan İnovasyon Sorumlu Vatandaşlar Derneği Başkanı Brad Carson da bu öneriyi destekleyerek önemli bir açıklama yaptı. Carson, teklifin 'insanların direksiyonda sağlam bir kontrolü olması ve aynı zamanda gerektiğinde fren düğmesinin hazır bulunması' konusunda önemli bir adım olduğunu belirtti. Bu yasal çerçeve ile yapay zekanın gelişimi sağlarken insan denetimini kaybetme riskinin önüne geçilmesi hedefleniyor.
Yepyeni bu düzenleme, dijital dünyadaki en hızlı teknoloji devlerine dahi sınır getirerek etik ve güvenlik standartlarını yeniden tanımlamayı amaçlıyor. Kontrolün tamamen şirketlerin elinde bırakılmaması, toplumsal güvenliğin en üst seviyede tutulması için atılmış önemli bir adımı teşkil ediyor.
OpenAI yönetim kurulunda Sam Altman'ın görevden alınması yönünde oy kullanan Helen Toner, yapay zeka CEO'larına güvenmenin yeterli olmadığını vurguluyor.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
