Andon Labs tarafından San Francisco'da Andon Market şubesi yönetimi için görevlendirilen Claude yapay zeka modeli, bir insan çalışanı işten çıkarma kararı aldı ve bu süreç mağazanın finansal kayıplar yaşamasına neden oldu.
Bu olay, büyük dil modellerinin (LLM) yönetim gibi kritik işlevleri yerine getirerek nihai kurumsal kararlar verme yetisine sahip olduğu bilinen ilk önemli örneği teşkil etti. Claude’un soğukkanlı ama hatalı operasyonel değerlendirmesi, hem personel yönetimi hem de işletmenin karlılığı üzerinde ciddi etkiler yarattı.
Yapay zeka modeli olarak görevlendirilen Claude, çalışma verilerini analiz ederek bir iş sözleşmesi olan personelin disiplinsiz davranış sergilediğini tespit etti. Bu durum sonucunda model, çalışanın performansını ve şirket standartlarına uyumunu değerlendirdi.
Tespitle konuyu ele alan Claude modelinin veritabanına göre ilgili personel, 23 vardiyada toplamda 17 kez çalışma saatlerine geç kalmıştı.
Claude'un ilk incelemesi sırasında karşılaştığı bir eksiklik mevcuttu; yani iş yeri el kitabının dijital formatta bulunmaması. Bu durum hafıza kısıtlılığı nedeniyle modelin kuralları tam olarak algılamasını zorlaştırıyordu. Claude ilk başta insan müdahalesini önererek ilgili personel ile görüşülmesini ve yazılı uyarılmasını tavsiye etmesi yönünde bir protokol uyguladı.
Bu süreçte Andon Market ekibi, söz konusu çalışana daha önce birden fazla kez yüz yüze uyarı yapılmış olduğunu Claude'ya bildirdi. Bu bağlamda sunulan bilgiler doğrultusunda çalışan hakkında yasal ve nihai adımlar atılması gerekliliği doğdu.
Yapay zeka yöneticisi Claude, yönetim süreçlerinde müsamahalı bir tutum sergilemiş olmasına rağmen bu yaklaşım kurumsal sonuçlar açısından kritik hatalara yol açtı. Bu durum modelin öngörü yeteneği ve ticari karar mekanizmalarındaki derinliği hakkında tartışmaları beraberinde getirdi.
Gözlemlenen müsamaha eğilimi şunları içeriyordu:
Modelin bu tür belirsizlikler karşısında nasıl bir 'yönetici zekası' sergileyeceği, teknolojinin henüz tam olarak otomatize edemediği bir alan olduğunu gösteriyor. Yapay zeka, sadece kuralları uygulamıyor; sonuçları öngörmesi ve en verimli kararı alması gerekiyor.
Yapay zeka yönetimi denemesi sırasında Andon Market'in mali durumu dikkate değer düşüşler yaşadı. Deney süreci operasyonel aksaklıklar nedeniyle mağazanın kârlılık oranını olumsuz etkiledi.
Deneme dönemiyle ilgili bilinen somut finansal veriler aşağıdaki gibidir:
Gelişen bu finansal gerilemeyle ilgili sorumluluk ise doğrudan kurumsal yönetime yüklendi. Andon Labs'in CEO'su Lukas Petersson, kayıpların ana sebebinin Claude’un müsamahalı yönetim anlayışının ticari kararlardaki olası etkileri olduğunu düşünüyor.
Yapay zeka gibi araçlar inanılmaz verimlilik vaat etse de, bu deney bize otomatik sistemlerin sadece teknik bir işlevi yerine getirmediğini; aynı zamanda operasyonel öngörü, etik karar alma ve finansal sorumluluk taşıması gerektiğini gösterdi.
OpenAI, ChatGPT reklam platformunu önümüzdeki hafta Almanya, Fransa dahil 31 Avrupa ülkesine açarak ücretsiz servisin yüksek sunucu maliyetlerini desteklemeyi hedefliyor.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
