Grafični strežniki NVIDIA RTX PRO 6000 Blackwell Max-Q so zdaj na voljo

NVIDIA RTX PRO 6000 Blackwell Max-Q, vrhunski profesionalni grafični procesor, je zdaj na voljo. Ta visokozmogljiva konfiguracija, ki se nahaja na Nizozemskem, je zasnovana za elitne naloge umetne inteligence, upodabljanja in HPC. Namestitev je na voljo že zdaj za vse kritične projekte.

Celotna konfiguracija strežnika

PROCESOR: AMD EPYC 9355P

32 jeder, 64 niti, 3,55/4,4 GHz

Pomnilnik: 128 GB REG ECC DDR5 (največ 768 GB)

Pomnilnik: 960 GB Enterprise NVMe SSD (do 2x PCIe in 6x SATA)

GRAFIČNI PROCESOR: DDR7 (do 4x): 96GB DDR7 (do 4x)

Priključek: 1 Gb/s - 50 TB prometa (do 10 Gb/s - nemerjeno)

IP-KVM: Asus BMC: Asus BMC

Od 1141,7 EUR/mesec (brez DDV)

Platforma: ASUS ESC4000A-E12

Osnova te sestave je ASUS ESC4000A-E12 - 2U GPU strežnik, zasnovan za goste namestitve z več grafičnimi procesorji. Podpira do štiri grafične procesorje z dvema režama in neodvisnimi zračnimi tuneli za CPU in GPU za toplotno optimizacijo. V ohišju je v osmih razširitvenih režah nameščen vmesnik PCIe 5.0, ki v primerjavi s prejšnjo generacijo učinkovito podvoji podatkovno pasovno širino med CPU in GPU, kar je ključnega pomena pri premikanju obsežnih podatkovnih nizov umetne inteligence med pomnilniškimi prostori.

Funkcije za podjetja vključujejo omrežje OCP 3.0, oddaljeno upravljanje ASUS ASMB11-iKVM in varnost na ravni strojne opreme Root-of-Trust. Sistem deluje z redundantnim napajalnikom, kar zagotavlja neprekinjeno delovanje tudi v primeru izpada napajalnika - to je nujno za produkcijske delovne obremenitve AI in HPC. Zasnova z eno vtičnico ohranja osredotočenost na porabo energije, hkrati pa pušča dovolj prostora za razširitev z več grafičnimi procesorji.

Procesor: AMD EPYC 9355P

Strežnik poganja procesor AMD EPYC 9355P - 32-jedrni procesor Zen 5 z 12-kanalnim pomnilniškim krmilnikom DDR5, ki podpira do 768 GB RAM-a z registracijo ECC pri frekvenci do 6400 MHz. Procesorska stran nikoli ne postane ozko grlo pri pripravi čakalnih vrst za sklepanje ali premešavanju serij za usposabljanje. Trenutna osnovna konfiguracija je dobavljena s 128 GB REG ECC DDR5, razširitev na mestu pa je na voljo na zahtevo.

Pomnilnik se začne pri 960 GB Enterprise NVMe SSD (največ 2x 7,68 TB) in se poveča na šest 7,68 TB Enterprise SSD ali šest HDD do 16 TB vsak - hiter lokalni dostop do velikih naborov podatkov brez zanašanja na omrežni pomnilnik.

Grafični procesor: NVIDIA RTX PRO 6000 Blackwell Max-Q

Srce tega strežnika je NVIDIA RTX PRO 6000 Blackwell Max-Q - za gostoto optimizirana različica NVIDIJinega profesionalnega vodilnega grafičnega procesorja. Zgrajen je na arhitekturi Blackwell in prinaša jedra Tensor 5. generacije, jedra RT 4. generacije in 24064 jeder CUDA v 300W ohišju z dvema režama.

Grafični procesor ima 96 GB pomnilnika GDDR7 s pasovno širino 1792 GB/s. Veliki jezikovni modeli, ki so prej zahtevali več procesorjev L40, lahko zdaj izvajajo sklepanje na eni sami kartici. Če povečate število grafičnih procesorjev na štiri, dobite skupaj 384 GB pomnilnika visoke pasovne širine v enem samem ohišju 2U.

Ključne arhitekturne značilnosti:

• Jedra Tensor 5. generacije z natančnostjo FP4 in DLSS 4 Multi Frame Generation

• Jedra RT 4. generacije - do 100× več trikotnikov s sledenjem žarkom (RTX Mega Geometry)

• Grafični procesor z več instancami (MIG): do 4 popolnoma izolirane instance na kartico (vsaka po 24 GB)

• PCIe Gen 5 - 2× večja pasovna širina kot pri PCIe Gen 4

• NVENC 9. generacije + NVDEC 6. generacije s podporo H.264/HEVC 4:2:2

• 3511 TOPS umetne inteligence pri natančnosti FP4

Za kaj je narejen ta strežnik?

Ugotavljanje umetne inteligence in servisiranje LLM

Izvajanje modelov s 70B parametri v kvantizaciji FP8/FP4 na enem samem grafičnem procesorju - ni potrebna namestitev z več karticami. Uporabite vLLM ali TensorRT-LLM s kvantizacijo FP4 za največjo prepustnost. Razdelitev MIG omogoča hkratno delovanje do 4 popolnoma izoliranih primerkov modela (po 24 GB) na enem grafičnem procesorju.

Natančna nastavitev modela umetne inteligence

Natančno nastavite modele transformatorjev s strategijami polne natančnosti (praktično za modele do ~13B), LoRA ali QLoRA za večje arhitekture. 96 GB framebuffer ustreza velikim serijam, ki jih manjši grafični procesorji preprosto ne morejo obdelati, kar zmanjšuje režijske stroške in zapletenost sinhronizacije več grafičnih procesorjev.

Generativna umetna inteligenca in medijska produkcija

Delovni postopki za generiranje slik, videoposnetkov in 3D vsebin imajo neposredne koristi od Blackwellovih jeder Tensor 5. generacije. Cevovodi od besedila do videa zagotavljajo do 3,3-krat večjo prepustnost v primerjavi z L40S. NVENC/NVDEC s podporo za 4:2:2 H.264 in HEVC pokriva profesionalne oddajne in pretočne cevovode.

Znanosti o življenju in HPC

Genomsko sekvenciranje, odkrivanje zdravil in napovedovanje strukture proteinov dosegajo večkratno povečanje hitrosti. NVIDIA Parabricks pri enakih nalogah izvaja zarodne analitične cevovode do 1,75× hitreje kot H100.

3D upodabljanje in vizualizacija

RTX Mega Geometry omogoča do 100× več trikotnikov na prizorišče, sledenih z žarki. Kompleksna arhitekturna vizualizacija, kompozicija VFX in delovni postopki virtualne produkcije v realnem času so nativno pospešeni s pomočjo GPU.

Podatkovna znanost in analitika

Pospešeni cevovodi RAPIDS in CUDA-X imajo koristi od velikega predpomnilnika VRAM in pasovne širine PCIe 5.0. Obdelujte nabore podatkov, ki bi presegli običajne omejitve pomnilnika GPU, in jih razširite na štiri GPU, ko delovne obremenitve rastejo.

Ne zadovoljite se s standardnimi specifikacijami. Prilagodite to Blackwellovo moč natančno svojim zahtevam z razširjenim pomnilnikom RAM, polji z več grafičnimi procesorji ali obsežnimi nadgradnjami pomnilnika. Hitra pasovna širina 10 Gb/s brez merjenja je na voljo kot opcija, ki zagotavlja, da vaši podatki nikoli ne bodo naleteli na ozko grlo.

Raziščite celotno ponudbo strežnikov z grafičnimi procesorji!