Hexcore
3 dk
Veri Ağına Aktar
ChatGPT gibi sohbet robotlarının liderliğinde yapay zekâ dünyası inanılmaz bir ivme kazanırken, teknolojik odağımız giderek otonom görevler üstlenebilen AI ajanlarına kayıyor. Ancak bu çığ sayılabilecek değişim, beraberinde devasa ve kritik bir sorunu getiriyor: Kontrolsüz artan enerji ihtiyacı.
Yapay zekâ sistemlerinin tüketimi halihazırda tüm dünyada ciddi bir gündem maddesi olmuş durumda. Veri merkezlerine ve elektrik altyapısına milyarlarca dolarlık yatırım yapılsa bile, Google gibi teknoloji devleri dahi bu sürekli talebi karşılamakta zorlanıyor. Daha da endişe verici olan nokta, yeni çıkan araştırmalar; AI ajanlarının yaygınlaşmasıyla enerji krizinin daha da derinleşebileceğini gösteriyor.
Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) tarafından hazırlanan bilimsel bir çalışmanın ilk sonuçları, yapay zekâ ajanlarının elektrik kullanımını somut verilerle ortaya koydu. Araştırmaya göre AI sistemlerindeki bu otonom görevleyiciler, standart sohbet botlarına kıyasla her bir sorguda 136,5 kata kadar fazla enerji tüketebiliyor.
Bu muazzam farkın nedenleri, iki farklı işlem modelinde yatıyor. Sohbet robotları genellikle tek ve kısa süreli işlemlerle sınırlı kalırken, yapay zekâ ajanları daha karmaşık bir süreç yönetiyor. Örneğin bir ajandan tatil planlaması talep ettiğinizde, sistem sadece tek bir yanıt üretmiyor; aynı zamanda internette arama yapıyor, farklı kaynaklardan bilgi topluyor, çeşitli hesaplamalar gerçekleştiriyor ve gerektiğinde dışarıdaki araçları devreye sokarak tüm görevi bağımsız bir şekilde tamamlıyor.
Yapay zekâ ajanlarının temel gücü, sürekli çalışan döngülerinden geliyor. Bir ajanın bir hedefe ulaşması için birçok ara adım planlaması ve bu adımları sırayla uygulaması gerekiyor. Bu süreçte her arama, her bilgi toplama ve her analiz yapıldığında sistemin beyni olan temel dil modeli (Large Language Model) defalarca aktif hale gelerek çalışıyor.
KAIST araştırmacıları, 70 milyar parametreli büyük bir dil modelini (GPT benzeri mimari) kullanarak ticari yapılara yakın ölçekli testler gerçekleştirdiler. Test sonuçlarına göre Reflexion adı verilen bir yapay zekâ ajan çerçevesinin tek bir karmaşık görev için ortalama 348,41 watt-saat enerji harcadığı belirlendi. Benzer kıyaslamalarda meta'nın Llama-3.1-Instruct 70B modelini kullanan bu ajanın standart bir sohbet botuna göre 136,5 kat daha fazla GPU gücü tükettiği gözlemlendi.
Bu enerji tüketimi sadece aktif hesaplama anlarında mi gerçekleşiyor? Hayır. Araştırmanın çok dikkat çekici bir bulgusu, bu yüksek maliyetin büyük bir kısmının işlem yapmaktan ziyade bekleme süresinden kaynaklandığı yönünde.
Yapay zekâ ajanlarının görev tamamlama süresi standart botlara göre yaklaşık 153,7 kat daha uzun olabiliyor. Araştırmacılara göre pahalı ve güçlü yapay zekâ işlemcileri (GPU'lar) zamanlarının büyük bölümünü hiçbir hesaplama yapmadan boşta bekliyor. Bu bekleme sırasında sistemin sürekli enerji tüketmeye devam etmesi, genel elektrik ayak izini çarpıcı biçimde artırıyor.
Yapay zekâ ajanlarının yaygınlaşması sadece şirketlerin veri merkezlerini değil, ulusal altyapıları da doğrudan etkileyecek bir seviyede. Araştırmacılar küresel projeksiyonlarını paylaştıklarında çarpıcı rakamlar ortaya çıktı: AI sistemlerinin günlük kullanıcılar tarafından yaklaşık 13,7 milyar istek alması durumunda, bu işlemler için gereken toplam güç ihtiyacı 199 gigavata ulaşabilir. Bu değer ise Amerika Birleşik Devletleri'nin ortalama yıllık elektrik tüketiminin yalnızca yarısına denk geliyor.
Profesör Rhu Min-soo gibi uzmanlar, bunun sadece yazılımsal optimizasyonlarla çözülemeyeceğini belirtiyor. AI ajanlarının yarattığı yeni ve muazzam işlem yükünü karşılayabilmek için yapay zekâ modellerinden başlayarak, bu sistemleri çalıştıran özel mikroçiplerden ve tüm veri merkezlerinin elektrik altyapısına kadar bütün teknoloji mimarisinin baştan tasarlanması gerekiyor.
Precision Neuroscience, beyin-bilgisayar arayüzü geliştirmek için 250 milyon dolarlık D serisi yatırım aldı.
Henüz yorum yapılmamış. İlk yorumu sen yap!
E-posta adresiniz yayımlanmayacaktır. Gerekli alanlar (*) ile işaretlenmiştir.
