NVIDIA RTX PRO 6000 Blackwell Max-Q GPU poslužitelji sada dostupni

NVIDIA RTX PRO 6000 Blackwell Max-Q, vrhunski profesionalni grafički procesor, sada je dostupan. Smještena u Nizozemskoj, ova konfiguracija visokih performansi projektirana je za elitne zadatke u području umjetne inteligencije, renderiranja i HPC-a. Uvođenje je dostupno odmah za sve projekte od ključne važnosti.

Potpuna konfiguracija poslužitelja

CPU: AMD EPYC 9355P

32 jezgre, 64 niti, 3,55/4,4 GHz

Memorija: 128 GB REG ECC DDR5 (maks. 768 GB)

Pohrana: 960 GB Enterprise NVMe SSD (do 2x PCIe i 6x SATA)

GPU: NVIDIA RTX PRO 6000 Blackwell Max-Q - 96 GB DDR7 (do 4x)

Priključak: 1 Gbps - 50 TB prometa (do 10 Gbps - neograničeno)

IP-KVM: Asus BMC

Početna cijena od 1141,7 € mjesečno (bez PDV-a)

Platforma: ASUS ESC4000A-E12

Osnova ove konfiguracije je ASUS ESC4000A-E12 – 2U GPU poslužitelj projektiran za guste implementacije s više GPU-a. Podržava do četiri GPU-a dvostruke širine s neovisnim kanalima protoka zraka za CPU i GPU radi termičke optimizacije. Kućište podržava PCIe 5.0 na osam utora za proširenje, čime se učinkovito udvostručuje propusnost podataka između CPU-a i GPU-a u usporedbi s prethodnom generacijom – što je ključno pri prijenosu masivnih AI skupova podataka između memorijskih prostora.

Značajke razine poduzeća uključuju OCP 3.0 umrežavanje, daljinsko upravljanje ASUS ASMB11-iKVM i sigurnost Root-of-Trust na razini hardvera. Sustav radi na redundantnom napajanju, osiguravajući neprekidan rad čak i u slučaju kvara napajanja – što je nužno za produkcijska AI i HPC radna opterećenja. Dizajn s jednim utorom održava potrošnju energije pod kontrolom, istovremeno ostavljajući puno prostora za proširenje s više GPU-a.

Procesor: AMD EPYC 9355P

Poslužitelj radi na procesoru AMD EPYC 9355P – 32-jezgrenom procesoru Zen 5 s 12-kanalnim kontrolerom memorije DDR5 koji podržava do 768 GB ECC registrirane RAM memorije pri frekvenciji do 6400 MHz. CPU-ova strana nikada ne postaje usko grlo pri pripremi redova za inferenciju ili pomicanju grupa za učenje. Trenutna osnovna konfiguracija isporučuje se s 128 GB REG ECC DDR5, a proširenje na licu mjesta dostupno je na zahtjev.

Pohrana započinje s 960 GB Enterprise NVMe SSD-a (maksimalno 2x 7,68 TB) i može se proširiti na šest enterprise SSD-ova od 7,68 TB ili šest HDD-ova od po 16 TB – brzi lokalni pristup velikim skupovima podataka bez oslanjanja na mrežnu pohranu.

GPU: NVIDIA RTX PRO 6000 Blackwell Max-Q

Srce ovog poslužitelja je NVIDIA RTX PRO 6000 Blackwell Max-Q – varijanta NVIDIA-ovog vodećeg profesionalnog GPU-a optimizirana za gustoću. Izgrađen na Blackwell arhitekturi, donosi jezgre za tenzore 5. generacije, jezgre za zrake 4. generacije i 24064 CUDA jezgre u formatu dvostrukog utora od 300 W.

GPU ima 96 GB GDDR7 memorije s propusnošću od 1792 GB/s. Veliki jezični modeli koji su prethodno zahtijevali više L40 kartica sada mogu izvršavati inferenciju na jednoj kartici. Povežite do četiri GPU-a i dobit ćete ukupno 384 GB memorije velike propusnosti u jednom 2U kućištu.

Ključne arhitektonske značajke:

• Tenzorske jezgre 5. generacije s FP4 preciznošću i DLSS 4 Multi Frame Generation

• RT jezgre 4. generacije – do 100× više trokuta s ray-tracingom (RTX Mega Geometry)

• Višeinstancijski GPU (MIG): do 4 potpuno izolirane instance po kartici (po 24 GB)

• PCIe Gen 5 – dvostruko veća propusnost od PCIe Gen 4

• 9. generacija NVENC-a + 6. generacija NVDEC-a s podrškom za 4:2:2 H.264/HEVC

• 3511 AI TOPS pri FP4 preciznosti

Za što je ovaj poslužitelj namijenjen?

Inferencija za AI i posluživanje LLM-a

Pokrenite modele s 70 milijardi parametara u kvantizaciji FP8/FP4 na jednom GPU-u – nije potrebna konfiguracija s više kartica. Implementirajte vLLM ili TensorRT-LLM s kvantizacijom FP4 za vrhunski protok. MIG particioniranje omogućuje istovremeno pokretanje do 4 potpuno izolirane instance modela (po 24 GB) na jednom GPU-u.

Fino podešavanje AI modela

Fino podešavanje transformerskih modela s punom preciznošću (praktično za modele do ~13B), LoRA ili QLoRA strategijama za veće arhitekture. Framebuffer od 96 GB može primiti velike skupove podataka koje manji GPU-ovi jednostavno ne mogu obraditi, čime se smanjuje opterećenje i složenost sinkronizacije više GPU-ova.

Generativna umjetna inteligencija i produkcija medija

Radni procesi za generiranje slika, videozapisa i 3D sadržaja izravno imaju koristi od Blackwellovih Tensor jezgri 5. generacije. Lanci za pretvaranje teksta u videozapise pružaju do 3,3× veću propusnost u usporedbi s L40S. NVENC/NVDEC s podrškom za 4:2:2 H.264 i HEVC pokriva profesionalne lance za emitiranje i streaming.

Biološke znanosti i HPC

Genomsko sekvenciranje, otkrivanje lijekova i predviđanje strukture proteina postižu višestruka ubrzanja. NVIDIA Parabricks pokreće cjevovode za analizu germinalne linije do 1,75× brže od H100 na istim zadacima.

3D renderiranje i vizualizacija

RTX Mega Geometry omogućuje do 100× više triangala s ray-tracingom po sceni. Složene arhitektonske vizualizacije, VFX kompoziting i radni procesi virtualne produkcije u stvarnom vremenu sada su nativno ubrzani na GPU-u.

Znanost o podacima i analitika

Rješenja s ubrzanim kanalima za RAPIDS i CUDA-X imaju koristi i od velikog VRAM spremnika i od propusnosti PCIe 5.0. Prerađujte skupove podataka koji bi premašili uobičajena ograničenja memorije GPU-a – i skalirajte na četiri GPU-a kako rastu opterećenja.

Ne zadovoljite se standardnim specifikacijama. Prilagodite ovu Blackwellovu snagu svojim točnim zahtjevima proširenom RAM-om, konfiguracijama s više GPU-ova ili velikim nadogradnjama pohrane. Brzi 10 Gbps neograničeni propusni opseg dostupan je kao opcija kako bi vaši podaci uvijek bili bez uskih grla.

Istražite cijelu liniju GPU poslužitelja!