…
H100 NVL vs. H100 SXM
Cloud-Mietpreis, Rechenleistung pro Dollar und technische Daten im direkten Vergleich.
Im interaktiven Vergleich öffnen →
H100 NVL$2.59niedrigster On-Demand-Preis pro GPU·h
$3.10 pro PFLOP·h · 4 AnbieterH100 SXM$1.66niedrigster On-Demand-Preis pro GPU·h
$1.68 pro PFLOP·h · 27 AnbieterWas sich wirklich unterscheidet
- Die H100 SXM hat 1.2× mehr dichte FP16/BF16-Leistung als die H100 NVL (0.835 PF vs. 0.989 PF).
- Die H100 NVL hat 1.2× mehr Speicherbandbreite als die H100 SXM (3,900 vs. 3,350 GB/s), was meist die Token-Generierung von LLMs begrenzt. Speicher: 94 GB vs. 80 GB.
- Die H100 SXM ist pro Stunde 36 % günstiger als die H100 NVL, gemessen an den niedrigsten On-Demand-Preisen ($2.59 vs. $1.66).
- Pro Einheit Rechenleistung ist die H100 SXM das bessere Angebot: $1.68 vs. $3.10 pro PFLOP-Stunde dense FP16/BF16.
| Daten / Preis | H100 NVL | H100 SXM |
|---|---|---|
| Speicher | 94 GB HBM3besser | 80 GB HBM3 |
| Speicherbandbreite | 3,900 GB/sbesser | 3,350 GB/s |
| FP16 / BF16 (dense) | 0.835 PF | 0.989 PFbesser |
| FP8 (dense) | 1.67 PF | 1.98 PFbesser |
| FP4 (dense) | — | — |
| INT8 (dense) | 1.67 PF | 1.98 PFbesser |
| TF32 (dense) | 0.417 PF | 0.495 PFbesser |
| FP32 (dense) | 0.06 PF | 0.067 PFbesser |
| FP64 (dense) | 0.06 PF | 0.067 PFbesser |
| Leistungsaufnahme | 400 W | 700 W |
| Architektur | Hopper (2023) | Hopper (2022) |
| Niedrigster On-Demand-Preis | $2.59 | $1.66besser |
| Median On-Demand | $2.88besser | $3.09 |
| Niedrigster Spot-Preis | $1.29 | $0.79besser |
| FP16/BF16 $ pro PFLOP·h | $3.10 | $1.68besser |
| Anbieter | 4 | 27 |
H100 NVL vs. H100 SXM: Fragen
Ist die H100 NVL schneller als die H100 SXM?
Die H100 SXM hat 1.2× mehr dichte FP16/BF16-Rechenleistung als die H100 NVL. Die H100 NVL hat 1.2× mehr Speicherbandbreite als die H100 SXM. Der reale Geschwindigkeitsgewinn hängt von der Last ab: Training und Prefill skalieren mit der Rechenleistung, LLM-Decoding dagegen vor allem mit der Speicherbandbreite.
Welche ist pro FLOP günstiger, die H100 NVL oder die H100 SXM?
Derzeit ist die H100 SXM pro Einheit Rechenleistung günstiger: $1.68 vs. $3.10 pro PFLOP-Stunde zu den niedrigsten On-Demand-Preisen.
Was kostet es, eine H100 NVL bzw. eine H100 SXM einen Monat lang zu mieten?
Eine GPU rund um die Uhr zum niedrigsten On-Demand-Preis kostet etwa $1,891 pro Monat für die H100 NVL und $1,212 für die H100 SXM.
Welche hat mehr Speicher, die H100 NVL oder die H100 SXM?
Die H100 NVL hat mehr Speicher: 94 GB vs. 80 GB.