Yapay zeka sektöründe açık kaynak modellerin kullanımını ve ölçeklenebilirliğini en üst seviyeye taşıma hedefiyle dev bir iş birliği daha masaya yatırıldı. IBM ve Together AI, 240 milyon dolarlık çok yıllık stratejik bir anlaşma imzalayarak yapay zekanın üretim ortamlarına adaptasyonu için sınırları zorluyor.
Bu iş birliğinin temel amacı, açık kaynaklı dev modellerin çıkarım (inference) süreçlerini inanılmaz bir ölçekte yönetebilecek altyapılar kurmak ve bu hizmeti küresel pazara sunmak. Yapay zeka teknolojilerinde hızla artan talep karşısında maliyeti düşürürken performansı maksimum düzeyde tutacak çözümün merkezine IBM'in dev bulut gücü yerleşiyor.
Büyük ölçekli altyapı kurma tahtasına oturan IBM, söz konusu anlaşmanın kapsamına bağlı olarak Nvidia HGX B300 sistemlerinden oluşan muazzam bir veri merkezi oluşturacak. Bu yeni nesil küme, doğrudan çıkarım iş yükleri için tasarlanmış ilk büyük ve özel hibrit çözüm olma özelliğini taşıyor.
Mevcut sistemlerin çok ötesine geçmeyi hedefleyen bu yeni altyapı, Nvidia HGX B300 hızlandırıcı sistemleriyle donatılacak. Bu sistemler, her bir ünitesinde sekiz adet Blackwell Ultra işlemci barındırarak inanılmaz hesaplama gücü sağlayacak.
Bu devasa kapasiteye eşlik eden teknolojik özellikler ise sistemi sektörün en ileri noktasına taşıyor. Altyapıda verimli veri akışını sağlamak amacıyla Nvidia Spectrum-X Ethernet ağ teknolojisi kullanılacakken, hızlandırıcılar arasındaki yüksek hızlı iletişim için ConnectX-8 SuperNIC bileşenleri devreye girecek.
Veri yönetiminin koordinasyonunu sağlayan BlueField-3 gibi ileri düzey veri işleme birimleri de sistemin genel performansını ve stabilitesini garanti altına alıyor. Tahminlere göre bu yapının, önceki nesil sisteme kıyasla yaklaşık otuz kat daha yüksek bir “AI factory” çıktısı vaat etmesi bekleniyor.
Geliştirilen yeni model sayesinde Together AI platformu; sadece modelleri eğitme veya ince ayar (fine-tuning) süreçlerini yönetmekle kalmayacak. Artık bu açık kaynaklı devlerin çıkarım hizmetlerini, yapay zeka ajanlarına yönelik kompleks iş akışlarını ve üretim ortamı taleplerini çok daha verimli bir şekilde karşılayabilecek.
Geliştirilen kapasitenin temel hedefi ise kurumsal müşterilere sunulmakta. Bu sayede açık kaynak modelleri kendi üretim süreçlerinde kullanan firmalar, hem beklenenden çok daha yüksek performans kazanacak hem de işlem başına token maliyetlerini önemli ölçüde düşürecekler.
Gelişmeler bu iş birliğinin IBM'in Nvidia ile kurduğu stratejik bağın altını çiziyor. Yapay zeka model çıkarımı ve büyük ölçekli veri analitiği alanındaki hibrit bulut çözümleri, IBM için kritik bir öneme sahip. Söz konusu anlaşma kapsamında hayata geçirilecek altyapının 2027 yılının ilk çeyreğinde kullanıma açılması bekleniyor, bu da yapay zeka hizmetlerinin gelecek yıllarda daha erişilebilir ve ekonomik hale gelmesinin yolunu açacak.
Bu dev hamle, açık kaynak ekosisteminin kurumsallaşma sürecinde emsalsiz bir sıçrama yaratıyor. Bugün milyarlarca token işleme kapasitesi sunan Together AI gibi yenilikçi platformlarla yapılan bu ortaklık, teknolojinin sadece büyük şirketlerin elinde kalmayacağı fikrini sağlam bir şekilde güçlendiriyor.
Topluluk yargısını şekillendirmek için fikrini tek bir sinyalle belirt.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
