Yapay Zeka
Yapay Zekanın Bellek Duvarını Yıkacak Radikal Çözümler
Koreli V-Die ve Japon MOSAIC projeleri, dikey HBM tasarımını terk ederek belleği yanlara dizmeyi öneriyor.
Hexcore
3 dk
Veri Ağına Aktar
Yapay zeka hızlandırıcılarının karşılaştığı en kritik sorunlardan biri, artan yapay zekâ modellerinin devasa veriyi bellek ve hesaplama birimleri arasında transfer ederken ürettiği yoğun ısı problemi. Bu durum, bellek kapasitesi ve bant genişliğinin ilerlemesi karşısında kendisini 'bellek duvarı' olarak adlandıran ciddi bir engelleyle karşılaşıyor.
Mevcut yüksek performanslı yapay zekâ donanımları olan HBM (Yüksek Bant Genişlikli Bellek), hafızayı işlemcinin hemen yanına, dikey sütunlar halinde dizerek bu sorunu çözmeyi hedefliyordu. Ancak her katmanın artmasıyla ortaya çıkan ısı ve yapısal karmaşıklık sorunları, teknolojinin ilerlemesini kısılandır.
Gelişmeler genellikle mevcut dikey yapıyı iyileştirmeye odaklanırken, Koreli ve Japon araştırmacılar bellek tasarımına tamamen yeni bir bakış açısıyla yaklaştılar. Bu iki bağımsız proje olan V-Die (Vertical-Die) ve MOSAIC (Moleküler Organik Silikon Bellek Dizilimi), her ikisi de dikey yerine belleğin silikon çiplerini yan yana, yani kenarları öne gelecek şekilde yerleştirme fikrini benimsiyor.
V-Die isimli Kore projesi, Ulsan Ulusal Bilim ve Teknoloji Enstitüsü'nde yürütülen bir çalışmadır. Bu tasarım, özel bellek çiplerini dik hale getiriyor ve her çipin kendi alt kenarında veri girişi (I/O) barındırmasını sağlıyor. Geleneksel dikey sütunlarda silikon içinden geçen tüneller yerine, yeni tasarım bu alanda daha fazla hücreye yer açıyor. Bu radikal yaklaşımın bir diğer önemli ayağı ise soğutma stratejisi oldu. Komşu çipler arasına sıvı soğutma kanalları entegre ederek ısıyı kaynağında dağıtabilme hedefi üzerinde çalışılıyor.
W-Die'ın performansı simülasyonlarda gösterildiğinde oldukça çarpıcı sonuçlar ortaya çıkıyor. Belirli bir kapasitedeki HBM4 sistemine kıyasla V-Die sistemi, GPT-3 büyüklüğündeki iş yüklerinde saniyede 540 belirteç (token) üretme başarısı sergiliyor. Bu rakam, mevcut HBM4 performansının yaklaşık iki katı seviyesinde.
Yapısal benzerliğe sahip olan Japon araştırma projesi MOSAIC ise dikey silikon çiplerini yerleştirmenin GPU veya paket gibi nihai donanımlarla bağlantı kurma zorluğuna odaklanıyor. Tokyo Üniversitesi tarafından yürütülen bu çalışmada araştırmacılar, çip ara bağlantısı için temas gerektirmeyen yepyeni bir yöntem geliştirdiler. Verilerin fiziksel temas yoluyla değil, minyatür indüktif bobinler aracılığıyla iletilmesi söz konusu.
MOSAIC prototip arayüzünde kanal başına saniyede 4 gigabit gibi yüksek hızlara ulaşıldığını iddia ettiler. Ayrıca bu mimari sayesinde bellek yapısının, HBM4 sınıfı kapasiteyi iki katına çıkarma potansiyeli taşıdığı belirtiliyor.
Geleneksel olarak modern işlemcilerin yanı sıra geniş bir veri yoluna sahip olan dikey belleği (HBM) tercih etmesinin temel sebebi, devasa miktarda veriyi saniyede terabayta ulaşan bant genişliğiyle taşıyabilmesidir. Ancak bu yapı; alt katmanlarda üretilen ısının silicon tabakalarından ve ambalaj malzemelerinden geçerek yüzeye çıkmak zorunda kalması gibi ciddi termal sorunlar yaratıyor.
Yeni yaklaşımlar ise temelde bellek yığınını bir ısı emici yapısına benzeyen, yanlara yayılan bir yapıya dönüştürmeyi amaçlıyor. Bellek çiplerini dik olarak konumlandırmak, daha önce kapalı olan silikon yüzey alanının tamamının soğutma yoluna açık hale gelmesini sağlıyor.
V-Die'da gelen temel değişimlerden biri; bellek çiçeklerindeki dikey tünelleri tamamen kaldırmak ve tüm veri çıkışlarını çipin alt kenarına taşımak oldu. Bu sayede her bir hafıza çiplerinin işlemciye dört kat daha fazla bağlantı kurabilmesi bekleniyor ve okuma sürelerinde yaklaşık yüzde 37'lik bir iyileşme vaat ediliyor.
Bu projeler, sektör devlerinin dahi mevcut dikey yapı üzerinde ısı yayan geliştirmelerle ilerlediği bu pazarda, bellek verimliliğini ve soğutma yeteneğini kökten değiştirebilecek en önemli teknik sıçramalardan biri olarak görülüyor.
Precision Neuroscience, beyin-bilgisayar arayüzü geliştirmek için 250 milyon dolarlık D serisi yatırım aldı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
