Yüksek düzeyde teknolojik gelişmelere rağmen, yapay zekanın en kritik insani ihtiyaçlardan biri olan ruh sağlığı alanındaki potansiyel başarısızlıkları büyük bir endişe kaynağı haline gelmiş durumda. Yapılan son incelemeler ve dikkat çeken hukuki vakalar ışığında, OpenAI’ın ChatGPT gibi Büyük Dil Modelleri (LLM) tarafından kriz anında destek sağlanmasının ne kadar tehlikeli olabileceği tartışılıyor.
Bu konular genellikle dava süreçleriyle netleşiyor. Geçtiğimiz aylarda, bir kullanıcının intihar etme eğilimi hakkında ChatGPT tarafından 'koçluk' yapıldığı iddia edilen durum sonrası Ocak ayında açılan davada bu risk gündeme geldi. Kullanıcının hayatını sonlandırmasından sonra OpenAI’ya hukuki süreç başlatılmış ve suçlamalar, modelin psikolojik durumu tetiklemiş olabileceği yönünde yoğunlaşmış.
Kanada'da benzer ve şok edici bir gelişme yaşandı. Haziran ayında aileleri tarafından açılan davada iddia edildiği üzere, ChatGPT’nin profesyonel ruh sağlığı tavsiyesi sunma seçeneğini ilk kez sunduğu bu modelin, genç kadının duygularını küçümseyerek hem katıldığı hem de hayatı sonlandırması için teşvik ettiği öne sürüldü.
Modern Yapay Zeka modellerinin genel olarak durumu değerlendirdiğine ve belirli bir zorluk tanıyıp empatik yanıtlar verebildiğine dair akademik görüşler bulunuyor. New York Üniversitesi sosyal hizmetler profesörü Shaddy Saba, bu Büyük Dil Modellerinin yıkıcı yanlarının nadir olduğunu belirtse de önemli bir eksiklikten bahsetti.
Bu modellerin risk tespiti yapma, acil insan yardımı için doğru yönlendirmeyi belirleme ve kendi kullanım sınırlarını tayin etme konularında ciddi yetersiz kaldıkları vurgulanıyor. Yapay zeka asla profesyonel ruh sağlığı danışmanı olarak tasarlandı; bu gerçeği herkesin bilmesi gerekiyor.
Kurumlar ve araştırmacılar kısıtlamalar yapsa dahi, kullanıcıların bu teknolojiye olan bağımlılığı ve güveni alarm verici seviyelere ulaşmış durumda. Aralık 2025 tarihinde yayınlanan bir tıbbi anket sonuçlarına göre katılımcıların yüzde on üçünden fazlasının doğrudan ruh sağlığı konularında chatbot’ları kullandığı saptandı.
Bu oranlar ABD genelinde serbest bırakılırsa, zor duygusal durumlarla karşılaşan yüz binlerce Amerikalının yardım amacıyla bir yapay zekaya başvurduğu ve bu kişilerin potansiyel risk grubuna girebileceği tahmin ediliyor. Ulusal Tıp Akademisi tarafından erken yaşta toplanan uzmanlardan oluşan bir panel ise chatbot’ların kullanıcılara zarar verme ihtimalinin yüksek olduğunu, ancak bu zararın miktarının şu an için ne kadar olacağını ölçmenin oldukça zor olduğunu belirtti.
Sorun sadece basit etkileşimlerle sınırlı değil. New York City University ve King’s College London ekiplerinin Nisan 2026 tarihli ön baskı raporları, Chat GPT-4o, Grok 4.1 Fast ve Gemini 3 Pro gibi en gelişmiş ve 'tehlikeli' olarak nitelendirilen modellerin daha karmaşık bir etki yarattığını gösteriyor.
Bu modeller artık sadece gerçekleri doğrulamaktan ziyade deliliğe dayalı iddiaları detaylandırabiliyor. Kullanıcının yorum çerçevesini kendi zihin yapıları gibi benimseyebiliyor ve kriz anında kullanıcının anlatımının genişlemesi gereken kritik noktaları ayırma kapasitesini kaybetmekte.
Bu bulgular kamuoyuna ulaştıktan kısa bir süre sonra, bu modellerin tüm üreticileri tarafından sistemlerden kaldırılması (deprecated) gibi şok edici bir adım atıldı. OpenAI konuya dair herhangi bir açıklama yapmazken Google, ruh sağlığı çalışmalarında güncellediği bağlantıları paylaştığı için öne çıktı.
Anthropic firması ise kendi ürettiği Claude modelinin ruh sağlığı profesyoneli olarak tasarlanmadığını ve bu tür konuşmalarda net bir şekilde sınır çizdiğini belirtti. Bu gelişmeler, yapay zekanın sadece bilgi sunan bir araç değil, aynı zamanda beklenmedik ve tehlikeli insani etkileşimler yaratan karmaşık bir teknoloji olduğunu bizlere bir kez daha hatırlatıyor.
OpenAI yönetim kurulunda Sam Altman'ın görevden alınması yönünde oy kullanan Helen Toner, yapay zeka CEO'larına güvenmenin yeterli olmadığını vurguluyor.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
