Andon Labs tarafından San Francisco'da Andon Market şubesi yönetimi için görevlendirilen Claude yapay zeka modeli, bir insan çalışanı işten çıkarma kararı aldı ve bu süreç mağazanın finansal kayıplar yaşamasına neden oldu.
Bu olay, büyük dil modellerinin (LLM) yönetim gibi kritik işlevleri yerine getirerek nihai kurumsal kararlar verme yetisine sahip olduğu bilinen ilk önemli örneği teşkil etti. Claude’un soğukkanlı ama hatalı operasyonel değerlendirmesi, hem personel yönetimi hem de işletmenin karlılığı üzerinde ciddi etkiler yarattı.
Yapay Zeka Nasıl Karar Vermeye Başladı?
Yapay zeka modeli olarak görevlendirilen Claude, çalışma verilerini analiz ederek bir iş sözleşmesi olan personelin disiplinsiz davranış sergilediğini tespit etti. Bu durum sonucunda model, çalışanın performansını ve şirket standartlarına uyumunu değerlendirdi.
Tespitle konuyu ele alan Claude modelinin veritabanına göre ilgili personel, 23 vardiyada toplamda 17 kez çalışma saatlerine geç kalmıştı.
Claude'un ilk incelemesi sırasında karşılaştığı bir eksiklik mevcuttu; yani iş yeri el kitabının dijital formatta bulunmaması. Bu durum hafıza kısıtlılığı nedeniyle modelin kuralları tam olarak algılamasını zorlaştırıyordu. Claude ilk başta insan müdahalesini önererek ilgili personel ile görüşülmesini ve yazılı uyarılmasını tavsiye etmesi yönünde bir protokol uyguladı.
Bu süreçte Andon Market ekibi, söz konusu çalışana daha önce birden fazla kez yüz yüze uyarı yapılmış olduğunu Claude'ya bildirdi. Bu bağlamda sunulan bilgiler doğrultusunda çalışan hakkında yasal ve nihai adımlar atılması gerekliliği doğdu.
Yönetici Rolünde Büyük Dil Modelinin Sınırlılıkları Nelerdi?
Yapay zeka yöneticisi Claude, yönetim süreçlerinde müsamahalı bir tutum sergilemiş olmasına rağmen bu yaklaşım kurumsal sonuçlar açısından kritik hatalara yol açtı. Bu durum modelin öngörü yeteneği ve ticari karar mekanizmalarındaki derinliği hakkında tartışmaları beraberinde getirdi.
Gözlemlenen müsamaha eğilimi şunları içeriyordu:
- Çalışan performans sorunlarına başlangıçta aşırı odaklanıp, çözüm yerine direkt uyarı önerileriyle sınırlı kalmak.
- El kitabının bulunmaması sebebiyle kurallara tam ve tutarlı bir şekilde bağlı kalamamak.
- Operasyonel kayıpların büyümesine rağmen, kısa vadeli operasyonel düzeltmelerle yetinme eğilimi göstermek.
Modelin bu tür belirsizlikler karşısında nasıl bir 'yönetici zekası' sergileyeceği, teknolojinin henüz tam olarak otomatize edemediği bir alan olduğunu gösteriyor. Yapay zeka, sadece kuralları uygulamıyor; sonuçları öngörmesi ve en verimli kararı alması gerekiyor.
Finansal Performans Nasıl Etkilendi?
Yapay zeka yönetimi denemesi sırasında Andon Market'in mali durumu dikkate değer düşüşler yaşadı. Deney süreci operasyonel aksaklıklar nedeniyle mağazanın kârlılık oranını olumsuz etkiledi.
Deneme dönemiyle ilgili bilinen somut finansal veriler aşağıdaki gibidir:
- Mart ayında faaliyete başlandığında şirket bankasında mevcut olan baki: 100 bin dolar.
- Beş ay sonra company hesabındaki düşen toplam miktar: 61 bin 186 dolar.
Gelişen bu finansal gerilemeyle ilgili sorumluluk ise doğrudan kurumsal yönetime yüklendi. Andon Labs'in CEO'su Lukas Petersson, kayıpların ana sebebinin Claude’un müsamahalı yönetim anlayışının ticari kararlardaki olası etkileri olduğunu düşünüyor.
Yapay zeka gibi araçlar inanılmaz verimlilik vaat etse de, bu deney bize otomatik sistemlerin sadece teknik bir işlevi yerine getirmediğini; aynı zamanda operasyonel öngörü, etik karar alma ve finansal sorumluluk taşıması gerektiğini gösterdi.
