Yapay Zeka
Google'dan Dev Hamle: Gemini mimarisi çip üzerine kazınacak
Google, yapay zekanın maliyet ve hız sorunlarına çözüm olarak Gemini mimarisinden ilham alan yeni bir sunucu çipi olan Frozen v2'yi geliştiriyor.
Hexcore
3 dk
Veri Ağına Aktar
Google'ın yapay zeka (AI) altyapısı için geliştirdiği sunucu çiplerinden birinin 'Frozen v2' olarak anıldığı bildiriliyor. Bu dev projenin en dikkat çekici yanı, Google DeepMind tarafından geliştirilen Gemini gibi gelişmiş yapay zeka modellerinin mimarisinden bir kısmının doğrudan çipin silikon yapılarına işleneceği iddiası oldu.
Bu ileri seviye mühendislik hamlesiyle ilgili çalışanların yaptığı tahminlere göre, Frozen v2 yongasının güncel Google TPU nesillerine kıyasla birim enerji başına altı ila on kat daha fazla işlem (token) yapabileceği öngörülüyor. Henüz detaylı bir çıkış tarihi verilmiş olmasa da bu tür özel çiplerin 2028 yılına kadar piyasada olması hedeflendi.
Geliştirilen Frozen v2 projesi, Google Bulut'un dış müşterilere karşı teklif vermekte zorlanacak kadar ciddi bir yapay zeka hesaplama kıtlığına karşı gelişen stratejik bir yanıt olarak değerlendiriliyor. Geleneksel Yapay Zeka İşlem Birimleri (TPU) veya Grafik İşlem Birimleri (GPU), herhangi bir işleme yüklendikleri modelin ihtiyaçlarına göre çalışma şeklinde hareket eder; yani donanım, her veri parçasıyla etkileşim kurduğunda zaman alıcı kararlar vermek zorunda kalır.
Frozen v2 bu döngüyü kırıyor. Yonganın devre elemanları (transistörleri) içine Gemini gibi bir modelin çalışmasına dair kritik bazı temel kararları sabitleyerek, işlem sırasında çiplerin yapması gereken adım sayısını ve sorgu başına hareket ettirilmesi gereken veri miktarını radikal biçimde azaltmayı hedefliyor.
Bu yaklaşımın getirdiği en somut faydalardan birinin, yanıt verme süresindeki (latency) düşüş olması olduğu belirtiliyor. Bu sayede yapay zekanın yeni ve daha karmaşık uygulama alanları açılmasına olanak sağlanması bekleniyor. Daha önceki deneylerde başat bilim insanlarından Jeff Dean tarafından yürütülen orijinal Frozen tasarımında Gemini'nin ağırlıklarının (weights) doğrudan çipe işleneceği düşünülmüş olsa da, bu plan bir modeli tek bir versiyona sabitleyerek yonganın kullanım ömrünü çok kısa tutma riski taşıması nedeniyle rafa kaldırılmıştı.
Geliştirilen Frozen v2 ise tüm yapay zeka modelinin kendisini değil, genel mimarisini sabitliyor. Böylece farklı Gemini güncellemeleri geldiğinde çip kullanılabilirliğini koruyacak; tabii bu durum Google'ın aynı temel altyapı üzerine yeni sürümleri inşa etme hızına bağlı olacak. Modelin ne kadarının bu şekilde kilitlenmesinin kritik bir miktar olduğu konusundaki kesin detaylar ise henüz netleşmiş değil.
Google, Frozen v2'yi standart TPU seviyesinde büyük hacimlerle üretmeyi planlamıyor. Bu nesli daha çok özel ve niş donanımlar için bir deneme süreci olarak görüyor. Gelecekteki durumda bu yeni çip türünün, Google Bulut'un dördüncü nesil TPUsuna eklenecek olan ayrı eğitim ve çıkarım (inference) varyantlarından farklı bir çizgide yer alması bekleniyor.
2028 hedefi aynı zamanda büyük bir ölçekli tedarik stratejisi ile de örtüşüyor; Google bu yıl Intel'e üç milyonu aşkın TPU paketlemesi için iş gücü sağlamış durumda. Yapay zeka donanımı yarışında ezilmemek isteyen teknoloji devleri, çiplerini yazılımdan çok silikonun kendisine kazıma yolunu benimsemiş durumda.
OpenAI yönetim kurulunda Sam Altman'ın görevden alınması yönünde oy kullanan Helen Toner, yapay zeka CEO'larına güvenmenin yeterli olmadığını vurguluyor.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
