Mart ayı etkinliği için yakın zamanda duyuru yapan NVIDIA, yeni teknolojilerini tanıttı. Markanın en çok dikkat çeken ürünü ise tabii ki NVIDIA Hopper GH100 GPU birimi oldu.
Veri merkezleri için yepyeni bir çözüm olacak yeni teknoloji, önemli eşikleri aşıyor ve açıkçası sektördeki dengeleri değiştiriyor. İlk başta karışık gelebilir ama merak etmeyin yeni teknoloji için detayları vereceğiz.
NVIDIA Hopper GH100 GPU Özellikleri Neler? Ne Sunuyor?
Başta şunu bir belirtelim ki bu yeni mimari son kullanıcı odaklı değil. Yani o çok beklediğimiz RTX 4000 serisi için geleceğini düşündüğümüz Ada mimarisinden söz etmiyoruz.
Hopper GH100 GPU, süper bilgisayarlar ve veri merkezleri için geliştirilmiş olan bir teknoloji. A100 serisinin yerini alacak ve yapay zekanın gücünü sonuna kadar kullanacak GPU; kuantum hesaplamaları, dinamik programlama sistemleri, sağlık sektörü, veri bilimi merkezleri gibi alanlarda kullanılacak.
Haliyle yapabilecekleri çok daha fazla. Son kullanıcı odaklı GPU mimarileriyle karıştırmamak lazım.
Kafa karışıklığına neden olan bu kısmı anladıysak o zaman devam edelim. İddialı yeni mimarinin üretim teknolojisinden başlayalım. Seri TSMC 4N teknolojisiyle üretiliyor.
Nvidia için özel olarak ayrılan ve 4nm temellerine dayanan bu üretim teknolojisi sayesinde transistör sayısı uçuyor. Tam 80 milyar transistör kullanıldığı duyuruldu.
Hemen geçmişe döneceğim ve A100 GPU serisi ile bir karşılaştırma yapacağım. Bir önceki nesil A100 serisinde 54 milyar transistör yer alıyordu.
Makine öğrenimi, Yapay zeka, Sinir ağını odağa alan yüksek iş yüklerinde kullanılacak olan NVIDIA Hopper GH100 GPU serisi, eski nesil ile karşılaştırıldığı zaman 6 kat daha iyi performans veren yeni bir transformer motor ile beraber geliyor. Bu da demek oluyor ki transformer tabanlı AI modellerinde de performans hızlandırılmış olacak.
Diğer teknik detaylara doğru devam ettiğimiz zaman, üst düzey bir performans farkı karşımıza çıkıyor.
Öyle ki NVIDIA Hopper GH100 GPU modelinde markanın açıkladığı verilere göre;
- FP64 hesaplama performansı 60 TFLOP (A100’e göre 3.3 kat daha hızlı)
- TF32 hesaplama performansı 1000 TFLOP (A100’e göre 3 kat daha hızlı)
- FP16 hesaplama performansı 2000 TFLOP (A100’e göre 3 kat daha hızlı)
- FP8 hesaplama performansı 4000 TFLOP (A100’e göre 6 kat daha hızlı)
gibi hesaplama performansları olacak. Bu da yeni serinin çok ama çok daha güçlü olacağı anlamına geliyor.
Devam ettiğimiz zaman bellek konusunda da yeni nesle geçildiğini görüyoruz. Yeni GPU’da HBM3 bellek kullanılmakta. Yeni bellek, eski nesle göre bant genişliğinde tam %50’lik bir artış sağlıyor. 3 TB/s gibi bir bant genişliğine ulaşılıyor. Burada bellek kapasitesi ise 80 GB olarak açıklandı.
Çekirdek sayılarının kesin olarak açıklanmadığı NVIDIA Hopper GH100 GPU birimlerinde hem PCIe varyantı hem de SXM varyantı olacağını da belirtelim. PCIe Gen 5 destekli olan PCIe varyantında 600W gibi bir TDP değeri, SXM varyantında ise 700W gibi bir TDP değeri göreceğiz.
A100’e göre çok daha başarılı olduğunu gördüğümüz yeni GPU, tüm bu özelliklerle yakın zamanda veri merkezlerini de süslemiş olacak.
