Generative AI Etik Sorunları ~ Bölüm 6

### Generative AI Etik Sorunları ~ Bölüm 6 4 min read Dec 25, 2023 Üretken Yapay Zekâ modelleri, son yıllarda önemli bir gelişme göstererek hayatımızın birçok alanında etkili olmaya başladı. Özellikle ChatGPT gibi gelişmiş dil modelleri. Ancak, bu yenilikçi teknolojilerin kullanımı etik sorumlulukları ve toplumsal etkileri de beraberinde getiriyor. Tam da bu konuya yönelik MIT (Massachusetts Teknoloji Enstitüsü) yapay zekâ ve etik konularını bir araya getirerek, kullanıcıların ahlaki kararlar almasına yönelik bir simülasyon geliştirdi. Örneğin, bir otonom araç bir kavşakta hızlı bir şekilde ilerlerken aniden karşısına çıkan yayalardan kaçınmak için ani bir manevra yapmak zorunda. Manevra sırasında ya araçtaki yolcular zarar görecek ya da yaya geçidindekiler ile çarpışma riski ortaya çıkacak. Hangi seçeneği tercih edersiniz: araçtaki yolcuların güvenliğini mi, yoksa dışarıdaki yayaların güvenliğini mi? ### Moral Machine simülasyonu Yapay zekâ sistemleri, eğitildikleri veri setlerindeki önyargıları öğrenme ve içselleştirme eğilimindedir. Örneğin, e-ticaret sitelerinin alışveriş asistanları eğitim verilerinde gençlere ağırlık veriyorsa, yaşlı kullanıcılar için önerilerde bulunma konusunda eksik veya önyargılı olabilir. ### Çeşitlilik Farklı toplumlar, kültürler ve demografik gruplar, farklı değerlere, normlara ve önyargılara sahip olabilirler. Yapay zekâ sistemleri, eğitildikleri veri setlerindeki bu önyargıları öğrenme ve içselleştirme eğilimindedir. ### Toxicity ve Yanıt Sorumluluğu Üretken Yapay Zekâ modelleri, eğitildikleri veri setleri üzerindeki örüntüleri içselleştirerek, zaman zaman toplumsal normlara uymayan veya saldırgan içerikler üretebilirler. Bu durum, “toxicity” olarak adlandırılan ve olumsuz etkileşimleri tetikleyen bir sorunu ortaya çıkarabilir. ### Sonuç Üretken yapay zekâ, çeşitli sektörlerde verimiliği önemli derece değiştirebilecek büyük bir potansiyele sahiptir. Ancak, bu potansiyeli tam anlamıyla gerçekleştirebilmek için veri önyargısı, çeşitlilik, toplumsal etkiler ve diğer etik konuların etkili bir şekilde ele alınması zorunludur. Kaynaklar: Dwivedi, Y. K., Kshetri, N., Hughes, L., Slade, E. L., Jeyaraj, A., Kar, A. K., … & Wright, R. (2023). “So what if ChatGPT wrote it?” Multidisciplinary perspectives on opportunities, challenges and implications of generative conversational AI for research, practice and policy. International Journal of Information Management, 71, 102642. Floridi L, Cowls J, Beltrametti M, Chatila R, Chazerand P, Dignum V, Luetge C, Madelin R, Pagallo U, Rossi F, Schafer B, Valcke P, Vayena E. AI4People-An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds Mach (Dordr). 2018;28(4):689–707. doi: 10.1007/s11023–018–9482–5. Epub 2018 Nov 26. PMID: 30930541; PMCID: PMC6404626. Stahl, B. C., & Eke, D. (2024). The ethics of ChatGPT–Exploring the ethical issues of an emerging technology. International Journal of Information Management, 74, 102700.