NVIDIA HGX B300 ve H200 Sunucular — Gigabyte
TopTel Türkiye, Gigabyte Enterprise ürünlerinin Türkiye yetkili distribütörüdür.
Gigabyte'ın NVIDIA HGX B300, B200 ve H200 platformlu 8-GPU sunucuları; büyük dil modeli (LLM) eğitimi, ince ayar ve yüksek hacimli çıkarım iş yükleri için tasarlanmıştır. G894 ve G893 serileri 8U hava soğutmalı, G4L4, G4L3 ve G593 serileri ise doğrudan sıvı soğutmalı (DLC) seçenekler sunar. TopTel bu sunucuları QPS mühendisliğiyle konfigürasyon, güç-soğutma planlaması ve rack ölçeğinde GIGAPOD projelendirmesiyle birlikte tedarik eder.
NVIDIA HGX nedir?
NVIDIA HGX, sekiz adet SXM form faktörlü GPU'yu tek bir taban kart (baseboard) üzerinde birleştiren ve sunucu üreticilerinin kendi şasilerine entegre ettiği NVIDIA platformudur. GPU'lar birbirine PCIe veri yolu yerine NVLink ve NVSwitch üzerinden bağlanır: Blackwell nesli HGX B300 ve HGX B200, beşinci nesil NVLink ile GPU başına 1,8 TB/s, toplamda 14,4 TB/s GPU'dan GPU'ya bant genişliği sunar; Hopper nesli H200'de NVLink bant genişliği GPU başına 900 GB/s'tir.
Bu mimari, sekiz GPU'nun tek bir sunucu içinde yüksek hızda ve düşük gecikmeyle birlikte çalışmasını sağlar. Büyük dil modellerinin eğitimi ve ince ayarında model parametreleri ve ara veriler GPU'lar arasında sürekli taşınır; yüksek NVLink bant genişliği ve GPU başına büyük HBM3e bellek kapasitesi, daha büyük modellerin daha az sunucuya sığmasına ve GPU'ların veri beklemeden çalışmasına yardımcı olur. Çıkarım (inference) tarafında ise geniş GPU belleği, uzun bağlam pencereleri ve yüksek eşzamanlı kullanıcı sayısı için belirleyicidir.
HGX B300, B200 ve H200 karşılaştırması
| Platform | GPU başına bellek | Toplam GPU belleği (8 GPU) | Bellek tipi | Gigabyte form faktörleri | Soğutma |
|---|---|---|---|---|---|
| NVIDIA HGX B300 | 288 GB | 2,3 TB | HBM3e | 8U hava soğutmalı (G894) · 4U DLC (G4L4) | Hava veya doğrudan sıvı soğutma (DLC) |
| NVIDIA HGX B200 | 180 GB | 1,44 TB | HBM3e | 8U hava soğutmalı (G894, G893) · 4U DLC (G4L4, G4L3) | Hava veya doğrudan sıvı soğutma (DLC) |
| NVIDIA HGX H200 | 141 GB | 1,1 TB | HBM3e | 5U DLC (G593) | Doğrudan sıvı soğutma (DLC) |
Gigabyte NVIDIA HGX sunucu modelleri
NVIDIA HGX B3006
Gigabyte G4L4-AD3-LAX7
HPC/AI Server - Intel® Xeon® 6900E+/6900-Series Processors - 4U, DP, NVIDIA HGX™ B300, DLC
Model detayıGigabyte G4L4-ZD3-LAX7
HPC/AI Server - AMD EPYC™ 9005/9004 Server Processors - 4U DP NVIDIA HGX™ B300 DLC
Model detayıGigabyte G4L4-SD3-LAX7
HPC/AI Server - Intel® Xeon® 6700/6500-Series Processors - 4U DP NVIDIA HGX™ B300 DLC
Model detayı
Gigabyte G894-AD3-AAX7
HPC/AI Server - Intel® Xeon® 6900E+/6900-Series Processors - 8U DP NVIDIA HGX™ B300
Model detayıGigabyte G894-ZD3-AAX7
HPC/AI Server - AMD EPYC™ 9005/9004 - 8U DP NVIDIA HGX™ B300
Model detayıGigabyte G894-SD3-AAX7
HPC/AI Server - Intel® Xeon® 6700/6500-Series Processors - 8U DP NVIDIA HGX™ B300
Model detayıNVIDIA HGX B2008
Gigabyte G4L4-AD1-LAX5
HPC/AI Server - Intel® Xeon® 6900E+/6900-Series Processors - 4U DP NVIDIA HGX™ B200 DLC
Model detayıGigabyte G4L4-SD1-LAX5
HPC/AI Server - Intel® Xeon® 6700/6500-Series Processors - 4U DP NVIDIA HGX™ B200 DLC
Model detayıGigabyte G894-AD1-AAX5
HPC/AI Server - Intel® Xeon® 6900E+/6900-Series Processors - 8U DP NVIDIA HGX™ B200
Model detayıGigabyte G894-SD1-AAX5
HPC/AI Server - Intel® Xeon® 6700/6500-Series Processors - 8U DP NVIDIA HGX™ B200
Model detayı
Gigabyte G893-ZD1-AAX5
HPC/AI Server - AMD EPYC™ 9005/9004 - 8U DP NVIDIA HGX™ B200
Model detayıGigabyte G893-SD1-AAX5
HPC/AI Server - 5th/4th Gen Intel® Xeon® Scalable - 8U DP NVIDIA HGX™ B200
Model detayı
Gigabyte G4L3-ZD1-LAX5
HPC/AI Server - AMD EPYC™ 9005/9004 - 4U DP NVIDIA HGX™ B200 DLC
Model detayıGigabyte G4L3-SD1-LAX5
HPC/AI Server - 5th/4th Gen Intel® Xeon® Scalable Processors - 4U DP NVIDIA HGX™ B200 DLC
Model detayıNVIDIA HGX H2002
Türkiye'de HGX sunucu tedariki ve projelendirme
- Konfigürasyon ve projelendirme: CPU platformu (Intel Xeon 6, AMD EPYC 9005/9004 veya Intel Xeon Scalable), bellek, depolama ve GPU ağı (InfiniBand veya Ethernet) seçimi, iş yükünüze göre QPS mühendisleriyle birlikte yapılır.
- Güç ve soğutma planlaması: rack başına kW bütçesi, PDU yapısı ve hava ya da doğrudan sıvı soğutma (DLC) altyapısı, veri merkezinizin mevcut kapasitesine göre planlanır.
- Rack ölçeği: birden fazla HGX sunucudan oluşan AI kümeleri için Gigabyte GIGAPOD ile anahtar teslim, rack ölçekli yapılandırma.
- Teslim süresi: seçilen konfigürasyona ve GPU tedarik durumuna göre teklifte bildirilir.
- Kurulum ve destek: devreye alma, garanti ve RMA süreçleri TopTel ve QPS tarafından iş ortaklarımızla birlikte yönetilir.
GIGAPOD
Birden fazla rack'e yayılan AI kümeleri için Gigabyte'ın rack ölçekli çözümü GIGAPOD'u inceleyin.
GIGAPOD'u inceleSık sorulan sorular
NVIDIA HGX B300 ile HGX H200 arasındaki fark nedir?
HGX B300, NVIDIA'nın Blackwell Ultra nesline; HGX H200 ise Hopper nesline dayanır. NVIDIA verilerine göre B300'de GPU başına 288 GB, H200'de 141 GB HBM3e bellek bulunur; GPU'dan GPU'ya NVLink bant genişliği B300'de GPU başına 1,8 TB/s, H200'de 900 GB/s'tir. Seçim; model boyutu, iş yükü tipi, güç-soğutma kapasitesi ve mevcut altyapıya göre yapılır.
Hava soğutmalı mı, sıvı soğutmalı (DLC) HGX sunucu mu seçmeliyim?
Gigabyte, HGX B300 ve B200 için 8U hava soğutmalı (G894, G893) ve 4U doğrudan sıvı soğutmalı (G4L4, G4L3) modeller sunar; H200 için bu seride 5U DLC model (G593) bulunur. Hava soğutma mevcut veri merkezlerine daha kolay uyum sağlar ancak daha fazla rack alanı kaplar. DLC aynı rack alanına daha fazla GPU sığdırır ve yüksek güç yoğunluğunu yönetir; buna karşılık soğutma suyu dağıtımı (CDU) gibi tesis altyapısı gerektirir. Veri merkezinizin kW/rack kapasitesine göre model önerisi yapıyoruz.
HGX sunucu ile PCIe GPU sunucu arasındaki fark nedir?
HGX sunucularda sekiz SXM GPU tek bir taban kart üzerinde yer alır ve NVLink/NVSwitch ile birbirine doğrudan bağlanır; bu yapı, GPU'lar arası iletişimin yoğun olduğu büyük model eğitimi için tasarlanmıştır. PCIe GPU sunucularda ise GPU kartları PCIe yuvalarına takılır ve GPU'lar arası iletişim genellikle PCIe veri yolu üzerinden yapılır. PCIe sunucular çıkarım, ince ayar, görselleştirme ve VDI gibi iş yükleri için daha esnek bir seçenektir.
HGX B300 ve H200 sunucular Türkiye'de stokta mı, teslim süresi ne kadar?
HGX platformlu sunucular proje bazında, seçilen konfigürasyona göre sipariş üzerine tedarik edilir; teslim süresi GPU tedarik durumuna ve konfigürasyona göre değişir. Güncel durum için teklif isteyin.
TopTel doğrudan satış yapıyor mu, nasıl teklif alırım?
TopTel bir distribütördür; Gigabyte HGX sunucularını yetkili iş ortakları (bayi, sistem entegratörü, çözüm ortağı) ağı üzerinden sunar. İş ortağıysanız model sayfasındaki Teklif İste butonu veya iletişim formu üzerinden konfigürasyon, teslim süresi ve projelendirme teklifi alabilirsiniz. Son kullanıcıysanız sizi ihtiyacınıza uygun bir iş ortağına yönlendiririz.
HGX sunucu projeniz için teklif alın
Konfigürasyon, güç-soğutma planı ve teslim süresi için TopTel mühendisleriyle görüşün.