Donanım
Yapay Zeka Ateşi Amazon’da İşlemci Krizi Yarattı
Amazon Web Services (AWS), yapay zeka ajanlarının artan işlemci ihtiyacı karşısında dahili mühendislerindeki CPU kullanımını denetlemeye başladı.
Hexcore
3 dk
Veri Ağına Aktar
Amazon Web Services (AWS), kendi dahili mühendisleri tarafından EC2 bulut sanallaştırma ortamlarındaki işlemci kullanımının israf edilmesine karşı sert önlemler almaya başladı. Mayıs ayında şirketten gelen iç bilgilere göre, AWS'nin müşteri taleplerini karşılama kapasitesini koruyabilmesi için bu 'CPU israfını' en aza indirmesi gerektiği mühendislerine bildirilmiş. Bu kritik uyarı, veri merkezi içinde işlemciye olan genel talebin kontrolsüz bir şekilde artmasıyla çakışıyor.
Geleneksel olarak grafik işlemciler (GPU) ile işlemciler arasındaki oran dört'e bire veya sekize bir gibi daha dengeli görünürken, günümüzde bu denge her geçen gün değişiyor ve işlemci pazarının önemini yeniden kazanmasına neden oluyor. AWS mühendisleri eskiden gelişim işlerini yürütmek için kolayca kendi sanal ortamlarını oluşturabiliyor. Ancak işlemci kullanım oranlarının düşüklüğüne güvenerek fazla sanal makine (instance) kullanıyorlardı. Fakat son dönemdeki bu değişimle, bir geliştirici artık ihtiyaç duyduğu sunucuya erişebilmek için günler beklemek zorunda kalıyor; bu durum şirkette şaşkınlık yaratmış durumda.
yapay zeka alanında ortaya çıkan 'ajanlar' (agentic AI), verimlilik anlayışını tamamen değiştiriyor ve büyük şirketleri bile bu yeni çalışma biçimine adapte etme zorluğu içinde bırakıyor. Amazon gibi devler dahi, yapay zekanın yarattığı karmaşık iş yüklerini yönetmek için mücadele ediyor. Geçen ay şirkette çalışan bir kodlama ajanı örneklerinde sadece token maliyetlerinin 1 milyon 800 bin doları aştığı ve bu durum geliştirme bütçesinin %860 fazlasını gerektirdiği rapor edilmişti.
Piyasada işlemci ihtiyacının temel sebebi, geleneksel olarak GPU'ların hızlandırıcı görevleri için tasarlandığı 'çıkarım' (inference) adı verilen iş yüklerinden ziyade yeni ve karmaşık yapay zeka ajanlarının ortaya çıkmasıdır. Bu tür işlemler sadece grafik işlemcilerle değil, aynı zamanda bu süreçlerde kullanılan araç çağırma işlemleri gibi çok daha fazla CPU gücü gerektiren operasyonlarla birlikte çalışır. Modern yapay zekada bu durum artık merkezdeki yerini alıyor.
yükselen talebe yanıt vermek için Intel, AMD gibi markalar ve depolama/bellek şirketleri arasındaki beklenti şu noktada toplandı: işlemci ihtiyacı o kadar yüksek ki, sektördeki her firma mümkün olan tüm kaynakları kullanmaya çalışıyor. Bu baskı karşısında büyük oyuncular aktif olarak kendi çözümlerini pazarlamaya başladı.
AMD, Veri Merkezi pazarındaki portföyünü genişletmek adına Zen 6 'Venice' işlemcilerini tanıttığında bu durum dikkat çekti; çünkü AMD onlar için müşteri odaklı bir alana geçmeden önce veri merkezinde yeni bir mimariyle sahneye çıkmıştı. Nvidia da tanıtım stratejisini hızlandırıcı donanımlardan uzaklaştırarak, kendi Vera CPU çözümüyle piyasaya sürülen geniş yapay zeka altyapısı içinde yerini sağlamlaştırmaya çalışıyor. Amazon gibi devler dahili kaynak yönetimi ile dış müşterilerin ihtiyaçları arasındaki bu kapasite karmaşasıyla boğuşurken, uzmanlar bakışlarını noktalar: kiralama yoluyla elde edilen özel bulut alanlarında (spot instance) ciddi sıkıntılar yaşanabiliyor.
Piyasa tahminlerindeki bu 'işlemci kıtlığı' algısına karşı Amazon Web Services adına resmi açıklamalar da yapıldı. Şirket, EC2 dahil olmak üzere tüm hizmetlere olan talebin son derece güçlü olduğunu ancak mevcut kapasiteyle tüm ihtiyaçların büyük çoğunluğunun karşılandığını belirtti. AWS yetkilileri, iç ekiplerle yakın çalışarak kullanılmayan durumlarda sanal makineleri kapatma (reclaiming idle instances) veya gereksiz fazla kaynakları düzeltme (right-sizing) gibi adımlarla verimliliği artırdıklarını vurguladı.
yönetim felsefelerinden bir olan 'mütevazı olma' (frugality) ilkesine atıfta bulunan şirket, kaynakların verimli kullanılması gerektiğini sürekli teşvik ettiklerini ve bu durumun yeni bir talep yaratmasından ziyade her zaman devam eden doğal bir operasyon olduğunu ifade etti. Her ne kadar basın tarafından belirlenen bazı raporlar mühendislerin kullanımını azaltma gibi kesin tarihler içeriyor olsa da AWS, bu anlatımların eksik veya yanlış bilgiler içerdiğini savunuyor ve mevcut kapasite yönetimi çabalarının her geçen gün daha fazla optimize edildiğini belirtiyor.
Google, Acer, Lenovo, ASUS, HP ve Dell iş birliğiyle hazırlanan Googlebook dizüstü bilgisayar serisini tanıttı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
