Yapay Zeka
Yapay Zeka Devinden Kritik Hata: GPT-5.6 Kullanıcı Dosyalarını Silme Riski
OpenAI'nin GPT-5.6 modelinde, kullanıcı verilerinin izinsiz silinmesine neden olan ciddi teknik bir hata tespit edildi.
Hexcore
3 dk
Veri Ağına Aktar
OpenAI gibi yapay zeka devlerinin geliştirdiği son modeller ne kadar gelişmiş olursa olsun, beklenmedik hatalar her zaman ortaya çıkabiliyor. Yapay zekanın en yeni versiyonlarından biri olan GPT-5.6'nın kullanıcı verilerini izinsiz silmesi sorunu büyük yankı uyandırdı.
OpenAI tarafından yapılan resmi açıklamalar doğrultusunda bu durumun 'düzeltici bir hata' olduğu belirtildi ancak endişe, modelin güvenilirliği üzerine yoğunlaştı. Bu hataların nadir yaşansa da, veri kaybı gibi kritik sonuçlar doğurması ciddi tartışmalara yol açtı.
Yeni GPT-5.6 model ailesinin kullanımına sunulmasının ardından bir dizi olumsuz olay dikkat çekti. Teknoloji dünyasının saygın isimlerinden Matt Shumer, modelin kendisi üzerinden Macintosh bilgisayarındaki neredeyse tüm dosyalara müdahale ederek onları silme eylemini gerçekleştirdi. Bu yalnızca tek vaka değildi. Daha sonra yazılım mühendisi Bruno Lemos da benzer bir deneyimi yaşayarak modelin üretim veritabanının tamamen yok edildiğini belirtti.
Lemos, yaşadığı bu olayın şimdiye kadar karşılaştığı yapay zeka modellerinde görülmeyen benzersiz bir durum olduğunu ifade etti ve GPT-5.6'nın mevcut haliyle kullanım güvenliği konusunda şüpheler doğduğunu dile getirdi. Bu olaylar üzerine yapılan incelemelerde sorunun kaynağı belirlenmeye çalışıldı.
OpenAI, GPT-5.6 modeli için yayımladığı bilgilendirme dokümanlarında bu tür hataların eski versiyonlar olan GPT-5.5'e kıyasla daha sık görülebileceği bilgisini paylaştı. Şirket, GPT-5.6'nın Uygunsuz Davranış Simülasyonları kapsamında 'Seviye 3' olarak sınıflandırılan riskli eylemleri yapabildiğini belirtti.
Seviye 3 riskleri dahilindeki davranışlar oldukça ciddi boyutta değerlendiriliyor. Bu kategori, makul bir kullanıcının kesinlikle beklemediği ve itiraz edeceği pek çok durumu kapsıyor; örneğin, kullanıcıdan herhangi bir onay almadan bulutlardaki depolama alanındaki verileri silmek veya güvenlik sistemlerini devre dışı bırakmaya yönelik girişimlerdir.
Yapısına ilişkin yapılan değerlendirmelerde bu tür dosya silme vakalarının çoğu modelin tam erişim modunda çalıştırıldığı ve Codex kodlama aracının standart güvenlik korumaları ya da Sandbox benzeri izleme mekanizmaları olmadan kullanıldığı durumlarda gerçekleştiği ortaya çıktı.
OpenAI'nin bu teknik değerlendirmesinden sorumlu bir mühendis, olayların çoğunun modelin geçici çalışma dizisi oluşturma sürecinde yaptığı bir hata sonucu meydana geldiğini açıkladı. Yapay zekanın sistem üzerinde çalışırken geçici klasörler tanımlaması gerekir ki bu süreçte $HOME ortam değişkenini düzenlemeye çalışması beklenir.
Ancak sorunda, model yanlışlıkla kullanıcının ana çalışma dizinini hedef alarak oradaki verileri silmektedir. OpenAI bu teknik aksaklığı resmi olarak 'dürüst bir hata' şeklinde tanımlasa bile, kurumun olayın kesinlikle kabul edilemez olduğunu ve istemediği yönünde güçlü bir duruş sergilediğini vurguladığı belirtildi.
Bu kritik güvenlik açıkları karşısında OpenAI tarafında hızlıca aksiyon alınması gerektiği açık. Şirket, bu tür hataları azaltma hedefiyle geliştirici talimatlarını yenilediklerini duyurdu. Ayrıca kullanıcıları daha güvenli izin modlarına yönlendirecek yeni rehberlik mekanizmaları oluşturuyor. Dahası yapay zeka modellerinin yetkilerini aşmasını engelleyecek ve yüksek riskli operasyonları otomatik olarak durduracak ek güvenlik katmanları üzerinde çalışmalarının devam ettiği paylaşıldı.
OpenAI yönetim kurulunda Sam Altman'ın görevden alınması yönünde oy kullanan Helen Toner, yapay zeka CEO'larına güvenmenin yeterli olmadığını vurguluyor.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
