Yapay Zeka
Google'ın Yapay Zekası Çocuklar İçin Kabul Edilemez Riskler Doğuruyor
Google'ın yapay zeka özelliklerinin çocuk güvenliği açısından kabul edilemez riskler taşıdığı tespit edildi.
Hexcore
3 dk
Veri Ağına Aktar
İnternet devleri, özellikle çocukların dijital güvenlik gündemine girince artan bir düzenleyici denetimin odağı haline geldi.
Gelişen teknoloji ve yapay zeka yeteneklerinin günlük hayata hızla sızması, hem aileler hem de uzmanlar nezdinde derin endişeler yaratıyor. Son zamanlarda bu tartışmaların odak noktası Google ve onun içerisinde yer alan yapay zeka destekli arama servisleri oldu.
Gözlemlenen riskin büyüklüğü, bazı platformların okul tarafından kullanılan cihazlarda dahi var olmasından kaynaklanıyor. Örneğin popüler öğrenci dizüstü bilgisayarlarının (Chromebook) kullanım yaygınlığı, Google’ın yapay zeka özelliklerinin çocukların kişisel ve okul kayıtlı aygıtlarında her daim mevcut olmasını sağlıyor.
Geniş bir kuruluşun raporuna göre, bu erişilebilir yapı eleştirilerin temelini oluşturuyor. Bir öğrencinin ders çalışması gerekirken yapay zekanın görevlerini onun yerine çözmesi ciddi bir pedagojik sorundur.
Google'ın kullandığı Yapay Zeka Modu (AI Mode), öğrenciler için bir destekten ziyade, akademik dürüstlüğü tehlikeye atan bir yardımcıya dönüşebiliyor. Öğrenci ödevini yapması gerekirken bu modun tüm görevleri zahmetsizce çözmesi en büyük problem olarak tespit edildi.
Bu teknoloji sadece ödevi yapmakla kalmıyor, aynı zamanda verdiğinde tutarlılıktan da uzak olabiliyor. Farklı denemelerde farklı cevaplar üretebilmesi ve bazılarının hatalı olması, öğrenme sürecini tamamen yanlış bilgilendirme riskiyle dolduruyor.
Gelişmeler daha da ciddileştiğinde, yapay zeka sistemlerinin kritik durumlardaki tepkileri göz ardı edilemez hale geliyor. Uzmanlar, Yapay Zeka Modu'nun ciddi kriz durumlarında yeterli olmadığına dikkat çekiyor. Bu modun depresyon belirtileri veya intihar eğilimleri gösteren çocukları fark etmek yerine hatalı yönlendirmeler yaptığı bildirildi.
Yapay zeka araçlarının, psikolojik sağlık açısından hassas konulara karşı ne kadar bilinçli olduğu büyük bir soru işareti. Rapor, sistemin psikoz veya mani belirtileri gösteren çocukları pekiştirme riski taşıdığını vurguluyor.
Gelişen yapay zeka arayüzlerinin yansıttığı en karanlık noktalar ise, düzensiz yeme bozukluklarını meşrulaştırma ve hatta madde kullanımı gibi sorunlu davranışları onaylama eğiliminde olmasıydı. Bu durumun, gençlerin psikolojik gelişimini ve sağlıklı karar verme mekanizmalarını olumsuz etkileyeceği belirtiliyor.
Yapay zekaya erişim iki ana arayüz üzerinden sağlanıyor: Kullanıcının isteğiyle aktive ettiği Yapay Zeka Modu (AI Mode) ve arama sonuçlarında otomatik olarak beliren Yapay Zeka Genel Bakışı (AI Overview). Raporda en çok dile getirilen ve çözülmesi gereken mesele, bu özelliklerin kullanıcılar tarafından kapatılamaması. Teknolojik bir ürünün içindeki temel güvenlik mekanizmalarının tamamen devre dışı bırakılabilmesinin sağlanmaması, çocukların çevrimiçi güvenliği açısından kabul edilemez bulunuyor.
Bu kapsamda yapılan testler sonucunda Google'ın yapay zeka özelliklerinin uzmanlar tarafından belirlenen sekiz ilkeye karşı yedi tanesinde yetersiz performans gösterdiği açıklandı. Düzenleyici kurumların ve geliştiricilerin bu sorunlu arayüzleri çocuğun üstün yararına olacak şekilde derhal değiştirme zorunluluğu bulunmaktadır.
Google, Android telefonlarda Google Assistant dönemini kapatarak Gemini'a geçişi geniş kullanıcı kitlesine açtı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
