Donanım
Meta'nın Stratejik Hamlesi: AMD ile Yeni Yol Haritası ve Maliyet Dengesi
Meta, maliyet tasarrufu amacıyla AMD ile yaptığı anlaşma kapsamında özel AI hızlandırıcılar kullanacak.
Hexcore
3 dk
Veri Ağına Aktar
Meta'nın yapay zeka donanımı konusundaki son stratejileri dikkat çekiyor. Şirketin büyük veri gerektiren iş yükleri için AMD ile özel bir anlaşma yaptığı iddia ediliyor. Bu süreçte şirketin, maliyet etkinliği amacıyla bazı temel hesaplama yongalarını standart modeller yerine özelleştirilmiş versiyonlarını kullanması planlanıyor.
Rapora göre Meta’nın yapay zeka hızlandırıcıları arasında AMD Instinct MI450 tabanlı özel bir model yer alacak. Bu kartlar, özellikle Facebook ve diğer sosyal platformların öneri sistemleri gibi belirli iş yüklerini çalıştırmak için optimize edilmiş durumda. Amaç, yüksek maliyetli donanım bütcelerinde büyük bir tasarruf sağlamak. Ancak bu kişiselleştirme, geniş kapsamlı yapay zeka araştırmaları veya en gelişmiş modellerin eğitimi gibi daha zorlu görevlerde esneklik açısından kısıtlamalar getirebilir.
Özelleştirilmiş MI450 serisi, tam teşekküllü standart yapay zeka hızlandırıcılarına kıyasla bellek kapasitesini önemli ölçüde azaltıyor. Örneğin, bazı kaynaklara göre bu özel model 144 GB HBM4 belleğe sahip olacak. Buna karşılık, standart Instinct MI455X serisi çok daha geniş bir depolama sunan tam özellikli donanıyla karşılaştırılıyor. Standart modellerde bulunan bu yüksek bellek kapasitesi (380 GB gibi), yeni özel tasarımda ikiye katlanarak dört kat azaltılmış haliyle kullanılabilecek.
Maliyet etkinliği, Meta’nın donanım tercihlerini etkileyen en kritik faktörlerden biri. HBM4 gibi yüksek teknoloji belleğin üretim maliyeti oldukça yüksektir. Özel yapım hızlandırıcılar kullanmak, üreticiye karşı (Bill of Materials - BOM) malzemelerin miktarını ve boyutunu küçültme imkanı sunuyor. Bu sayede Meta, yüz milyonlarca dolar tasarruf etme potansiyeli barındırıyor.
Özelleştirilmiş bu kartların bellek kapasitesinde düşüş yapılması ve hesaplama gücünün kısılması, özellikle 144 GB'lık HBM4 limitinin modern büyük dil modelleri (LLM) eğitimi için kısıtlayıcı olabileceği anlamına geliyor. Bu tür bir tasarruf önceliği ile performans arasında hassas bir denge kurulmuş.
Donanımın özelleştirilmesi, beraberinde ciddi avantajların yanı sıra dezavantajları da getiriyor. En büyük sorun, çok yönlülüğün kaybıdır. Standart Instinct MI455X gibi genel amaçlı bir kart, öneri sisteminden model eğitimine veya diğer çıkarım (inference) süreçlerine kolayca adapte olabilir. Meta’nın ise özel olarak tasarladığı bu versiyonlar, yalnızca belirlenen kısıtlı iş yükleri için ideal olacak.
Yarın, Meta'nın hesaplama talepleri büyük dil modellerinin eğitimi yönünde kayarsa, ellerinde çok geniş bir standart donanım tabanı olmasına rağmen farklı iş yüklerine optimize edilmiş özel hızlandırıcı yığınları kalmış olacaktır. Bu durum, Meta’yı beklenmedik yeni yatırım kararlarına zorlayabilir.
Geniş çaplı bir anlaşma kapsamında AMD’nin Metaverse gibi devlere yıllık 6 petabayttan fazla (6 GW) Instinct AI hızlandırıcı tedarik etmesi bekleniyor. Bu modelin, Meta'nın altyapısına önemli bir ivme kazandırması bekleniyor. Öte yandan bu stratejik hamle, şirketin en ön saflarda yer alan yapay zeka modellerini eğitmeye devam ederken bile maliyetleri optimize etme konusundaki kararlılığını gösteriyor.
Bu durum, Meta'nın yapay zeka yolculuğunda yalnızca performans değil, aynı zamanda finansal verimliliği de ne kadar önemsediğinin net bir göstergesi niteliğinde.
NVIDIA'nın 24 GB VRAM'li RTX 5080 Super modelini iptal ettiği öne sürüldü.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
