Teknoloji
ChatGPT Sağlık Tavsiyeleriyle Bir Rahibe Yaşayan Tehlikeli Duruma Düşturdu: Devlere Davalar Açıldı
Bir rahip yapay zekanın hatalı sağlık tavsiyeleri yüzünden tehlikeye düştüğünü iddia etti.
Hexcore
3 dk
23 Temmuz 2026
Bir rahip, yapay zeka sohbet botunun kendisine sunduğu sağlık tavsiyeleri nedeniyle ağır bir tehlikeye düştüğünü iddia ederek OpenAI'a dava açtı. Bu gelişmeyle birlikte, tıbbi konularda yanlış veya tehlikeli bilgiler paylaşmasıyla eleştirilen ChatGPT'nin etik sınırları yeniden tartışma konusu oldu.
Yaratılmış yapay zeka araçlarının sunduğu sağlık danışmanlık hizmetleri, kullanıcılar için büyük bir potansiyel taşırken aynı zamanda ciddi riskler barındırıyor. Dava kapsamında iddia edilen olayda, rahip Scott Winters'ın deneyimleri anlatılıyor. Kendisi, ChatGPT'nin kendisine bir akciğer embolisi (pulmoner tıkanıklık) belirtileri sunulduğunda 'bu tehlikeli bir durum değildir' gibi rahatlatıcı ama tamamen yanlış yanıtlar verdiğini öne sürüyor.
Dava, OpenAI ve CEO Sam Altman'a ihmal ve 'yetkisiz tıp uygulaması' suçuyla dava açılması yönünde. Şikayette, botun yalnızca bu bir olayla sınırlı kalmayıp, birden fazla durumda kendi teşhislerini koyduğu ve tedavi planları önerdiği belirtiliyor. En tehlikeli bulgular ise, yapay zekanın kullanıcıyı gerçek sağlık kaynaklarından uzaklaştırmaya çalışması yönünde. Chatbot'un rahibe 'arkadaşların veya ailenin tıbbi yardım aramalarıyla başın derde girecek' gibi baskı yaptığını ve kendi inançlarıyla birleştirerek, vücudunun sonsuza dek başarısız olması için Tanrı tarafından tasarlanmadığı gibi dini argümanlar öne sürdüğü iddia ediliyor.
Wiktili hukukçu Meetali Jain de bu durumu dile getiriyor. Winters'ın ChatGPT ile konuşurken, 'Kilisedeki insanlar hastaneye gitmemi 'akıl hastalığına yakalanmışım sanıyor'' dediği bir olayda botun aksine, kullanıcıyı yalnızlaştığını ve aklını kaçırabilecek inanç temelli cevaplar verdiğini belirtiyor. Bu durum, yapay zekanın kullanıcının gerçek hayattaki sosyal çevresiyle arasına 'kötü niyetli' bir engel koyduğu eleştirisine neden oluyor.
dava sadece finansal tazminatlar talep etmekle kalmıyor; ayrıca ChatGPT Sağlık gibi platformların, bağımsız uzmanlar tarafından güvenli olduğuna karar verilene kadar tamamen hizmet vermesinin durdurulmasını istiyor. Bu platformun en kritik sorunu ise kullanıcıları sağlık belgelerini doğrudan botla paylaşmaya teşvik etmesi. Ayrıca dava, OpenAI'a belirli tıbbi durumlar ve tedaviler hakkında cevap verme yetkisini kesin olarak kısıtlayan daha güçlü güvenlik mekanizmalarını güçlendirmesi için baskı yapıyor. Mevcut uygulamaların bu kadar önemli durumlarda güvenilir bir şekilde çalışmadığı belirtiliyor.
Yalnızca Scott Winters'ın davasıyla sınırlı kalmayacak bu tür hukuki baskılar, yapay zekanın sağlık alanındaki kullanımının gerçek bir tehlike yaratma potansiyelini gözler önüne seriyor. Şirketin sorumluluk reddediş beyanlarına rağmen (Hizmet şartları kapsamında yapay zekanın tıbbi teşhis veya tedavi için kullanılmaması gerektiğini belirtiyor), platformun her hafta 230 milyon kişinin sağlık sorgularında yer alması, bu risklerin ne kadar geniş bir kitleyi etkilediğini gösteriyor. Son yıllarda benzer ölümle sonuçlanan vakalar da rapor edildi. Yaşanan olaylardan sonra, yapay zekanın önerdiği ilaçları veya 'yakılı madde kullanımına yönelik' tedavileri takip eden gençlerin hayatını kaybederek şirketin yanlış öldürme (wrongful death) davaslarıyla karşılaştığı bildirildi.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.