NVIDIA RTX PRO 6000 Blackwell Max-Q GPU sunucuları artık mevcut

Üst düzey bir profesyonel GPU olan NVIDIA RTX PRO 6000 Blackwell Max-Q artık yayında. Hollanda'da bulunan bu yüksek performanslı yapılandırma, seçkin yapay zeka, işleme ve HPC görevleri için tasarlanmıştır. Görev açısından kritik herhangi bir proje için dağıtım şu anda kullanılabilir.

Tam sunucu yapılandırması

İŞLEMCI: AMD EPYC 9355P

32 Çekirdek, 64 İş Parçacığı, 3,55/4,4GHz

Bellek: 128GB REG ECC DDR5 (768GB maks.)

Depolama: 960GB Kurumsal NVMe SSD (2x PCIe ve 6x SATA'ya kadar)

GPU: NVIDIA RTX PRO 6000 Blackwell Max-Q - 96GB DDR7 (4x'e kadar)

Bağlantı Noktası: 1 Gbps - 50TB Trafik (10Gbps'ye kadar - Ölçülmemiş)

IP-KVM: Asus BMC

Aylık 1141,7 €'dan başlayan fiyatlarla (KDV Hariç)

Platform: ASUS ESC4000A-E12

Bu yapının temeli, yoğun, çoklu GPU dağıtımları için tasarlanmış bir 2U GPU sunucusu olan ASUS ESC4000A-E12'dir. Termal optimizasyon için bağımsız CPU ve GPU hava akışı tünelleri ile dört adede kadar çift yuvalı GPU'yu destekler. Kasa, sekiz genişletme yuvasında PCIe 5.0 çalıştırarak CPU-GPU veri bant genişliğini önceki nesle kıyasla etkili bir şekilde iki katına çıkarır - büyük yapay zeka veri kümelerini bellek alanları arasında taşırken kritik öneme sahiptir.

Kurumsal sınıf özellikler arasında OCP 3.0 ağ iletişimi, ASUS ASMB11-iKVM uzaktan yönetim ve donanım seviyesinde Root-of-Trust güvenliği yer alıyor. Sistem, yedekli bir güç kaynağıyla çalışarak PSU arızası durumunda bile kesintisiz çalışma sağlar - bu, üretim yapay zeka ve HPC iş yükleri için bir zorunluluktur. Tek soketli tasarım, çoklu GPU genişletmesi için tam boşluk bırakırken güç tüketimine odaklanılmasını sağlar.

İşlemci: AMD EPYC 9355P

Sunucu, 6400 MHz'e kadar 768 GB'a kadar ECC kayıtlı RAM'i destekleyen 12 kanallı DDR5 bellek denetleyicisine sahip 32 çekirdekli Zen 5 işlemci olan AMD EPYC 9355P üzerinde çalışıyor. CPU tarafı, çıkarım kuyruklarını hazırlarken veya eğitim gruplarını karıştırırken asla bir darboğaz haline gelmez. Mevcut temel yapılandırma 128 GB REG ECC DDR5 ile birlikte gelir ve istek üzerine yerinde genişletme yapılabilir.

Depolama 960 GB Enterprise NVMe SSD (2x 7,68 TB maks.) ile başlar ve altı adet 7,68 TB kurumsal SSD'ye veya her biri 16 TB'a kadar altı HDD'ye kadar ölçeklenebilir - ağ depolamasına güvenmeden büyük veri kümelerine hızlı yerel erişim.

GPU: NVIDIA RTX PRO 6000 Blackwell Max-Q

Bu sunucunun kalbi, NVIDIA'nın profesyonel GPU amiral gemisinin yoğunluğa göre optimize edilmiş varyantı olan NVIDIA RTX PRO 6000 Blackwell Max-Q'dur. Blackwell mimarisi üzerine inşa edilen bu GPU, 300W çift yuvalı form faktöründe 5. nesil Tensor Çekirdekleri, 4. nesil RT Çekirdekleri ve 24064 CUDA çekirdeği sunuyor.

GPU, 1792 GB/s bant genişliğinde 96 GB GDDR7 bellek taşıyor. Daha önce birden fazla L40 gerektiren büyük dil modelleri artık tek bir kart üzerinde çıkarım yapabiliyor. Dört GPU'ya kadar ölçeklendirdiğinizde, tek bir 2U kasada toplam 384 GB yüksek bant genişliğine sahip bellek elde edersiniz.

Temel mimari özellikler:

• FP4 hassasiyeti ve DLSS 4 Çoklu Çerçeve Üretimi ile5. nesil Tensör Çekirdekleri

• 4. nesil RT Çekirdekleri - 100 kata kadar daha fazla ışın izlemeli üçgen (RTX Mega Geometri)

• Çok Örnekli GPU (MIG): kart başına 4 adede kadar tamamen yalıtılmış örnek (her biri 24 GB)

• PCIeGen 5 - PCIe Gen 4'ün 2 katı bant genişliği

• 4:2:2 H.264/HEVC destekli9. nesil NVENC + 6. nesil NVDEC

• 3511 FP4 hassasiyetindeAI TOPS

Bu sunucu ne için üretildi?

Yapay zeka çıkarımı ve LLM sunumu

Tek bir GPU'da FP8/FP4 nicelemesinde 70B parametre modellerini çalıştırın - çoklu kart kurulumu gerekmez. En yüksek verim için vLLM veya TensorRT-LLM'yi FP4 niceleme ile dağıtın. MIG bölümleme, 4 adede kadar tamamen izole edilmiş model örneğinin (her biri 24 GB) tek bir GPU üzerinde aynı anda çalışmasına olanak tanır.

Yapay zeka modeli ince ayarı

Daha büyük mimariler için tam hassasiyetli (~13B'ye kadar modeller için pratik), LoRA veya QLoRA stratejileri ile transformatör modellerine ince ayar yapın. 96 GB çerçeve arabelleği, daha küçük GPU'ların üstesinden gelemeyeceği büyük yığınlara uyar ve çoklu GPU senkronizasyon ek yükünü ve karmaşıklığını azaltır.

Üretken yapay zeka ve medya üretimi

Görüntü, video ve 3D içerik oluşturma iş akışları Blackwell'in 5. nesil Tensör Çekirdeklerinden doğrudan yararlanır. Metinden videoya işlem hatları, L40S'ye kıyasla 3,3 kata kadar daha yüksek verim sağlar. 4:2:2 H.264 ve HEVC destekli NVENC/NVDEC, profesyonel yayın ve akış hatlarını kapsar.

Yaşam bilimleri ve HPC

Genomik dizileme, ilaç keşfi ve protein yapısı tahmini çok kat hızlanma sağlar. NVIDIA Parabricks, aynı görevlerde germ hattı analiz işlem hatlarını H100'den 1,75 kata kadar daha hızlı çalıştırır.

3B oluşturma ve görselleştirme

RTX Mega Geometri, sahne başına 100 kata kadar daha fazla ışın izlemeli üçgen sağlar. Karmaşık mimari görselleştirme, VFX birleştirme ve gerçek zamanlı sanal prodüksiyon iş akışlarının tümü yerel olarak GPU ile hızlandırılır.

Veri Bilimi ve analitik

RAPIDS ve CUDA-X hızlandırmalı işlem hatları hem büyük VRAM arabelleğinden hem de PCIe 5.0 bant genişliğinden yararlanır. Tipik GPU bellek sınırlarını aşacak veri kümelerini işleyin ve iş yükleri büyüdükçe dört GPU'ya ölçeklendirin.

Standart özelliklerle yetinmeyin. Genişletilmiş RAM, çoklu GPU dizileri veya devasa depolama yükseltmeleri ile bu Blackwell güç merkezini tam gereksinimlerinize göre uyarlayın. Yüksek hızlı 10 Gbps ölçülmemiş bant genişliği, verilerinizin asla darboğaza girmemesini sağlamak için bir seçenek olarak mevcuttur.

GPU sunucu serisinin tamamını keşfedin!