Yapay Zeka ve Donanım Nvidia, yapay zekâ modelleme dünyasında yeni bir döneme işaret eden önemli bir adım atarak açık kaynak mantığında ilk büyük modeli olan Nemotron 3.5 Lightning'i tanıttı. Bu yenilik, sektördeki donanım ve yazılım ekosistemine derinlemesine katkı sağlayarak, özellikle yapay zekâ ajanları için optimize edilmiş devasa bir modeli sade ve erişilebilir hale getiriyor. Jensen Huang liderliğindeki Nvidia'nın bu hamlesiyle, açık kaynak modellerin gelecekte yapay zekâ sektörünün ana omurgası olacağına dair vizyonu somut bir karşılık buldu. Nemotron 3.5 Lightning, hem hafifliği hem de yüksek performansı sayesinde geniş çaplı kullanımı mümkün kılıyor.
Nemotron 3.5 Lightning modeli üç yüz milyar parametreli 'mixture-of-experts' yani MoE mimarisini temel almaktadır. Bu modern yapı sayesinde, modelin tüm bilgi birikimi her görevde devreye girmek zorunda değildir; sadece o görevin gerektirdiği uzman bölümler (aksiyoncular) aktif hale gelir. Mevcut modeller gibi devasa hesaplama gücü gereksinimleri yaratmak yerine daha spesifik ve verimli çalışması, onu hem hızlı hem de ölçeklenebilir kılmaktadır. Modelin bu hafif ama derin yapısı sayesinde aynı kategorideki rakiplerine kıyasla dört kata kadar daha hızlı çıktı üretebilmesi beklenmektedir. Model ayrıca ajan tabanlı karmaşık görevleri yerine getirirken %30'a varan performans artışı sunarak akıl yürütme yeteneğini güçlendirmektedir.
Nemotron 3.5 Lightning, şirketlerin kendi özel ihtiyaçlarına göre özelleştirilebilmesi üzerine inşa edilmiş tamamen açık kaynaklı bir yapay zekâ modelidir. Bu esneklik özelliği sayesinde şirketler, bu modeli kendi güncel ve gizli verileriyle yeniden eğitebilirler, böylece modellerin güvenlik ve veri gizliliği konularında tam kontrolü elde ederler. Zaten Nvidia'nın Nemotron platformunu benimseyip test eden ilk kurumsal isimlerden CrowdStrike gibi siber güvenlik devleri ve Harvey gibi finansal teknoloji şirketleri yer almaktadır. Bir kullanıcı, bu modeli tamamen ücretsiz olarak Nvidia’nın resmi internet sitesinden veya Hugging Face üzerinden kolayca indirebilmekte ve kendi sistemlerinde yapay zekâ uygulamaları geliştirebilmektedir. Bu modeller üzerine yapılan değişikliklerin hukuki bir kısıtlaması bulunmamaktadır.
Nemotron 3.5 Lightning, pratik kullanım senaryolarında ciddi maliyet düşürmeleri ve hız kazanımları sağlamaktadır. Örneğin, CodeRabbit gibi şirketler bu modeli kullanarak yönlendirici ajanı sadece otuz milyar parametreli bir modelle geliştirmiştir. Bu süreçte yalnızca yaklaşık iki saat gibi kısa bir zamanda, tahmini yüz elli dolar altındaki çok makul bir maliyetle işlevsel bir yapay zekâ ajanı yaratılmıştır. Bu durum, büyük ölçekli yapay zekâ sistemlerinin erişilebilirliğini artırırken; küçük geliştiriciler için devasa teknolojilere giriş bariyerini dramatik şekilde düşürmektedir. Temel olarak modelin hafifliği ve açık kaynak olması, teknolojik yeniliklerin hızla yayılmasına olanak tanımaktadır.
Google, Android telefonlarda Google Assistant dönemini kapatarak Gemini'a geçişi geniş kullanıcı kitlesine açtı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
