Yapay zeka araçlarının günlük hayatımıza hızla entegre olması, beraberinde yeni güvenlik endişelerini de getiriyor. Son olarak OpenAI'ın macOS için geliştirdiği ChatGPT uygulamasında keşfedilen ve kısa süre önce yamalanan bir güvenlik açığı, saldırganların gözünde yapay zeka yazılımlarının ne kadar değerli bir hedef haline geldiğini gözler önüne serdi. Objective-See Foundation araştırmacıları tarafından ortaya çıkarılan bu açık, bir saldırganın kurbanın bilgisayarındaki ChatGPT'yi ele geçirmesine, dolayısıyla tüm sohbet kayıtlarına ve uygulamada saklanan diğer hassas verilere erişmesine olanak tanıyabilirdi.
Objective-See Foundation yazılım analisti ve uzun süredir macOS güvenliği üzerine çalışan Patrick Wardle, konuyla ilgili değerlendirmesinde yapay zeka ajanlarının görevlerini yerine getirebilmek için geniş sistem erişimine ihtiyaç duyduğunu vurguladı. Wardle, "Ajanlar işlerini yapabilmek için çok fazla erişime ihtiyaç duyarlar. Tıpkı tüm odaların anahtarına sahip bir bina yöneticisi gibidirler. Dolayısıyla eğer bozulurlarsa veya ele geçirilirlerse, bu son derece sorunlu olur. Bu, ayrıcalıksız kodun potansiyel olarak her şeye erişebileceği anlamına gelebilir" ifadelerini kullandı.
Bu durum, yapay zeka platformlarının çalışabilmek için kendilerine tanınan derin sistem erişimini ve duyulan güveni gözler önüne seriyor. Ancak bu güven, beraberinde büyük bir hedef olma riskini de getiriyor. Saldırganlar için yapay zeka uygulamalarını ele geçirmek, hem kullanıcı verilerine ulaşmak hem de daha geniş sistemlere sızmak için bir kapı aralayabilir.
ChatGPT'nin macOS uygulaması, birbiriyle güvenli bir şekilde iletişim kuran birden fazla bileşenden oluşuyor. Bu bileşenler, dijital imzaları kontrol ederek birbirlerinin OpenAI'a ait olup olmadığını doğruluyor. Amaç, dışarıdan gelebilecek kötü niyetli yazılımların taleplerini engellemek. Sistem tasarımı o kadar ileri gidiyor ki, bir isteğin üç katman yukarısına kadar imza kontrolü yapılmasını şart koşuyor. Böylece kötü niyetli bir yazılımın, bir OpenAI bileşenini proxy olarak kullanıp güvenilir görünen bir istek yapmasının önüne geçilmesi hedefleniyor.
Ancak Objective-See Foundation araştırmacıları, güvenilir bir bileşen olan bir script yorumlayıcısının, güvenilmeyen bir script'i (veya çalıştırılacak komut listesini) kabul ettiğini ve bu script'i ana ChatGPT sürecine iletecek şekilde manipüle edilebildiğini keşfetti. Wardle, "Sürecin ebeveynini ve büyük ebeveynini de kontrol ediyorlar, ancak kötü niyetli script sadece script yorumlayıcısını üç kez başlatıp ardından isteği yapıyor, böylece gereksinimleri karşılıyor" diyerek açığın nasıl aşıldığını açıkladı.
Wardle, açığın istismar edilmesinin "inanılmaz derecede basit" olduğunu ekledi ve kanıt konsepti için yalnızca yaklaşık bir dakika harcadığını belirtti. Bu da açığın ne kadar kritik olduğunu gözler önüne seriyor.
OpenAI, 25 Eylül'de yayınladığı sistem değişikliği notunda güvenlik açığını ve düzeltmeyi kamuoyuna duyurdu. Şirket sözcüsü Shane Bauer, yaptığı açıklamada "Güvenlik uygulamalarımızı geliştirmeye devam ediyoruz, ancak daha hızlı hareket etme ihtiyacımız olduğunu kabul ediyoruz" dedi. Bu açıklama, OpenAI'ın güvenlik konusundaki farkındalığını ve gelecekte daha proaktif olma niyetini gösteriyor.
Açık, macOS işletim sistemini kullanan ChatGPT uygulamasını etkiliyor. Türkiye'de birçok kullanıcı macOS üzerinden ChatGPT'ye erişiyor. Neyse ki açık, OpenAI tarafından kapatılmış durumda. Kullanıcıların uygulamalarını güncel tutmaları ve otomatik güncellemeleri etkinleştirmeleri büyük önem taşıyor. Henüz açığın aktif olarak kötüye kullanıldığına dair bir rapor bulunmuyor, ancak yapay zeka uygulamalarının sistemdeki geniş yetkileri göz önüne alındığında, bu tür açıkların gelecekte de hedef olabileceği unutulmamalı.
Bu olay, yapay zeka uygulamalarının güvenliği konusunda daha fazla çalışma yapılması gerektiğini gösteriyor. Yapay zeka ajanları, kullanıcıların yerine işlem yapabilmek için geniş yetkilere sahip. Bu da onları cazip hedefler haline getiriyor. Hem geliştiricilerin hem de kullanıcıların güvenlik konusunda dikkatli olması gerekiyor. OpenAI gibi şirketlerin güvenlik açıklarını hızlı bir şekilde kapatması sevindirici, ancak sürekli tetikte olmak şart.
Sonuç olarak, ChatGPT'nin macOS uygulamasındaki bu açık, yapay zeka araçlarının ne kadar güçlü ve aynı zamanda ne kadar kırılgan olabileceğini gösteriyor. Kullanıcıların uygulamalarını güncel tutmaları ve resmi olmayan kaynaklardan yazılım indirmemeleri, bu tür risklere karşı ilk savunma hattı olarak öne çıkıyor.
TÜİK'in Yapay Zeka İstatistikleri bültenine göre Türkiye'de üretken yapay zeka kullanan bireylerin oranı bir yılda yüzde 19,2'den yüzde 37,6'ya çıktı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
