Najvýkonnejšie servery Najvýkonnejšie servery
Dlhodobý víťaz
v porovnávacích testoch výkonu

Nvidia Server GPU

Grafické karty pre GPU/AI služby

Informácie o výkonných grafických jednotkách, ktoré používame pre GPU/AI servery.

Porovnanie GPU používaných v našich službách

Grafická karta Výkon (FP32 TFLOPS) Pamäť (GB) Počet jadier Tensor cores Architektúra Šírka zmernice (bit) Ďalšie špecifikácie
NVIDIA RTX 4090 82.58 24 16,384 CUDA 512 Ada Lovelace 384 PCIe 4.0, 4K a 8K gaming
AMD RX 7900 XTX 61.44 24 6,144 RDNA 3 N/A RDNA 3 384 AV1 Encode/Decode, Ray Tracing
NVIDIA RTX 5000 Ada ~64 32 9,728 CUDA 304 Ada Lovelace 256 Profesionálna grafika, PCIe 4.0
AMD W7900 PRO 61 48 14,080 RDNA 3 N/A RDNA 3 384 AV1 Encode/Decode, Ray Tracing
NVIDIA RTX 6000 Ada 91.06 48 18,176 CUDA 568 Ada Lovelace 384 48 GB pamäť, PCIe 4.0
NVIDIA H100 1450 (TF32 Matrix Ops) 80 114,000 CUDA 640 Hopper 512 AI/ML akcelerátor, NVLink
NVIDIA H200 ~1600 (TF32 Matrix Ops) 96 Neupresnené Neupresnené Hopper 512 AI/ML, pokročilý NVLink

 

 

Vysvetlenie parametrov:

  • Výkon (TFLOPS): Hodnoty sú uvedené pre jednoduché výpočty s plávajúcou desetinnou čiarkou (FP32), čo je relevantné ako pre hry, tak pre vedecké výpočty. U H100 a H200 sú zahrnuté aj TF32 výkon pre AI výpočty, ktoré sú akcelerované tensor jadrami.
  • Pamäť (GB): Koľko grafickej pamäte má karta k dispozícii. Viac pamäti je výhodné pre prácu s veľkými datovými sadami (AI, rendering).
  • Počet jadier: Počet výpočtových jadier na karte (CUDA pro NVIDIA, RDNA pro AMD). Čím viac jadier, tým vyšší potenciálny paralelný výkon.
  • Tensor cores: Špecialne jádra navrhnuté pre akceleráciu výpočtov v oblasti strojového učenia (AI), predovšetkým pre trénink a inferenciu neuronových sietí. Sú prítomné len pri grafických kartách NVIDIA.
  • Architektúra: Základná technologická platforma, na ktorej je karta postavená. Novšie architektúry (Ada Lovelace, Hopper) prinášajú vylepšenie vo výkone a efektivite.
  • Šírka zbernice (bit): Šírka pamäťového rozhrania, ktoré ovplyvňuje rýchlosť prístupu k dátam v pamäti.
Ponuka našich AI/GPU služieb