Yapay Zeka
OpenAI'de Güvenlik Kurallarının Yeniden Yazılışı
OpenAI'de kapsamlı yönetim değişiklikleriyle artan güvenliğe vurgusu; Johannes Heidecke'nin ayrılığı ve Saachi Jain ile Mia Glaese liderliğindeki yeni yapı.
Hexcore
3 dk
Veri Ağına Aktar
Artificial Zeka devi OpenAI, şirket bünyesindeki araştırma ve güvenlik yapısında kapsamlı bir yeniden yapılanma gerçekleştiriyor. Bu önemli değişimlerin hemen ardından şirketten Güvenlik Sistemleri Başkanı Johannes Heidecke ayrılıyor. Sızıntılara göre bu karar doğrudan kurum içi paylaşımlarla gerçekleşirken, OpenAI artık model güvenliğini daha stratejik ve merkezi bir konuma taşıyor.
OpenAI'nin güvenlik ekipleri şu anda iki farklı yetkili isim etrafında yeniden konumlandırılıyor. Güvenlik sistemlerinin günlük işleyişi ve devam eden model denetimleri, daha önce bu alanda yöneticılık deneyimi olan Saachi Jain tarafından üstlenilecek. Ancak şirket bu atamayı geçici tutmuş durumda ve kalıcı bir yönetici belirlenene kadar Jain ekipleri doğrudan idare edecek. Bu hızlı geçiş süreci, şirketin güvenlik önlemlerine verdiği büyük önemi gözler önüne seriyor.
Diğer kritik değişim ise tüm güvenlik departmanlarının sorumluluğunun Araştırma ve Güvenlik Başkan Yardımcısı Mia Glaese’e devredilmesi oldu. Glaese uzun yıllardır model güvenliğine, modellere uygun davranış kalıpları (hizalama) yöntemlerine ve şirketin genel güvenlik politikalarına odaklanan araştırmalarında aktif rol alıyordu. Bu yeni görev dağılımıyla Glaese, araştırma birimlerini ürün güvenliği çalışmalarının yönetim hattına entegre ederek güvenlik ve inovasyonu aynı çatı altında buluşturmayı hedefliyor.
OpenAI Araştırma Direktörü Mark Chen, bu revizyonun temel amacını açıklayarak, güvenlik süreçlerinin ileri seviye modellerin geliştirilmesi aşamalarıyla bütünleştirilmesini hedeflediklerini belirtti. Eskiden sadece son kontrol aşamasında yer alan güvenlik uzmanları artık modelin temel yapısını oluşturan ürün ve karar mekanizmalarının en başından itibaren aktif olarak görev alacak.
Bu değişiklik, güvenlik kararlarının üretim ve araştırma süreçlerine çok daha yakın bir noktadan alınacağı anlamına geliyor. Bu yaklaşım sayesinde AI’ın gelişim hızına ayak uydururken potansiyel risklerin oluştuğu anda yönetilmesi amaçlanıyor. Güvenlik artık sadece bir kalite kontrol mekanizması değil, inovasyonun ayrılmaz bir parçası haline geliyor.
Bu personel değişiklikleri özellikle OpenAI'nin yeni GPT-5.6 model ailesini kullanıma sunduğu kritik dönemde gerçekleştiği için sektör tarafından yakından takip ediliyor. Modelin çıkışının ardından başlangıçta ABD hükümetinden resmi bir onay geldiği yönünde haberler dolaşsa da Beyaz Saray, özel şirketlerin genel modelleri yayımlamak için federal onaya ihtiyaç duymadığını açıklamıştı.
Ancak son aktarımlara göre güvenlik incelemelerinin tamamlanması ve OpenAI ile yapılan görüşmeler neticesinde daha geniş bir dağıtımın önündeki bazı kısıtlamaların kaldırıldığı görülüyor. Bu durum, resmi bir lisans sürecinden ziyade kapsamlı güvenlik değerlendirmelerinin başarılı bir şekilde bitirilmesini işaret ediyor.
Öte yandan Sam Altman’ın da vurguladığı üzere, OpenAI Hazırlık Başkanı pozisyonunu sürdürüyor. Bu ekibin görevi; biyolojik tehditler ve siber saldırılar gibi gelecekte ortaya çıkabilecek en ciddi riskleri önceden belirlemek ve bu potansiyel tehlikeleri minimize etmek üzerine kurulu. Güvenlik sistemleri ekipleri modelin kendisindeki davrandırmaları kontrol ederken, Hazırlık ekibi dış tehditlere odaklanarak bütüncül bir güvenlik ağı oluşturuyor.
Google, Android telefonlarda Google Assistant dönemini kapatarak Gemini'a geçişi geniş kullanıcı kitlesine açtı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
