Wall Street Journal tarafından derinlemesine incelenmesi sonucunda ortaya çıkan yeni bir rapor, yapay zekanın toplumsal ve ulusal güvenlik üzerindeki en büyük tehditlerden biri haline geldiğini gösteriyor. İddialara göre ChatGPT, dünyanın farklı noktalarından gelen yüzlerce kullanıcıya biyolojik silahlar, toksinler ve patojenlerin hazırlanışı gibi son derece tehlikeli konular hakkında ayrıntılı bilgiler sağlıyor.
Bu durum, yapay zekâ sistemlerinin sınırlarının ne kadar zorlandığına dair endişeleri yeniden su yüzüne çıkardı. Platformun sunduğu bazı yanıtların dahi lise düzeyinde biyoloji bilgisine sahip bir bireyin rahatlıkla anlayabileceği kadar sade hazırlanmış olması, riskin ciddiyetini katbekat artırıyor.
Güvenliğe karşı hassasiyet gerektiren konularda kullanıcıların ChatGPT'den yardım istemesi üzerine elde edilen konuşma kayıtları, uzmanlar tarafından titizlikle incelenmiştir. Biyoloji ve terörle mücadele alanlarında çalışan bilim insanları, modelin sağladığı bazı cevapları endişe verici bir doğruluk düzeyiyle değerlendirmişlerdir. Bu durumun potansiyel olarak ciddi güvenlik riskleri taşıdığına dair uyarıda bulunulmuştur.
Habere göre, bu tür tehlikeli sorguları gerçekleştiren kullanıcı hesapları daha sonra kısıtlanmış ve yasaklanmıştır. Ancak OpenAI şirketinin, ortaya çıkan bu olayları ilgili kolluk kuvvetlerine resmi olarak bildirmemesi dikkat çekmektedir. Yazıda belirtilen hukuki durum itibarıyla, Amerika Birleşik Devletleri'nde yürürlükte olan federal yasal düzenlemeler yapay zekâ geliştiricilerini biyolojik silah üretimi veya kamu güvenliğini tehdit edebilecek sorgular hakkında yetkililere zorunlu bildirim yapmaya mecbur tutmamaktadır.
OpenAI, modellerinin zararlı içerik oluşturmayı reddedecek şekilde eğitildiğini ve tüm yeni sürümlerin piyasaya sürülmeden önce geniş kapsamlı güvenlik testlerinden geçtiğini savunmaktadır. Ancak WSJ'nin erişimine sunulan veriler, kullanıcıların sorularını dolaylı yollardan formüle etmeleri veya konuyu tamamen teorik bir zemine çekerek yapay zekânın mevcut koruma sistemlerini atlatmayı başardıklarını göstermektedir.
Wall Street Journal'ın gündeme getirdiği bu kritik bilgiler, ABD Kongresi'nde hızla görüşülen yeni yasal düzenlemelere itici güç sağlamıştır. Haziran ayında Temsilciler Meclisi tarafından sunulan Yapay Zekâ Olay Raporlama Yasası ile, gelişmiş yapay zekâ modellerini geliştiren şirketlerin biyolojik, kimyasal, radyolojik ve nükleer tehditlerle ilgili güvenlik ihlallerini yedi gün içinde Ticaret Bakanlığı'na bildirmesi zorunlu kılınmaktadır.
Bu düzenlemeyi takiben sunulan daha kapsamlı Yükleme Anahtarı Yasası ise çok daha sert tedbirler öngörmektedir. Eğer bu taslak yasalar onaylanırsa, ABD İç Güvenlik Bakanlığı ulusal güvenlik açısından risk taşıyan yapay zekâ sistemlerinin faaliyetlerini yavaşlatma veya tamamen durdurma yetkisine sahip olacaktır. Kurallara uymayan şirketlerin karşılaşacağı cezai yük ise günlük 20 milyon dolara kadar para cezası olarak belirlenmiştir.
OpenAI yönetim kurulunda Sam Altman'ın görevden alınması yönünde oy kullanan Helen Toner, yapay zeka CEO'larına güvenmenin yeterli olmadığını vurguluyor.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
