…
H100 SXM vs. H200 SXM
Cloud-Mietpreis, Rechenleistung pro Dollar und technische Daten im direkten Vergleich.
Im interaktiven Vergleich öffnen →
H100 SXM$1.82niedrigster On-Demand-Preis pro GPU·h
$1.83 pro PFLOP·h · 31 AnbieterH200 SXM$2.90niedrigster On-Demand-Preis pro GPU·h
$2.93 pro PFLOP·h · 22 AnbieterWas sich wirklich unterscheidet
- Die H100 SXM und die H200 SXM haben gleich viel dichte FP16/BF16-Leistung (0.989 PF vs. 0.989 PF).
- Die H200 SXM hat 1.4× mehr Speicherbandbreite als die H100 SXM (3,350 vs. 4,800 GB/s), was meist die Token-Generierung von LLMs begrenzt. Speicher: 80 GB vs. 141 GB.
- Die H100 SXM ist pro Stunde 37 % günstiger als die H200 SXM, gemessen an den niedrigsten On-Demand-Preisen ($1.82 vs. $2.90).
- Pro Einheit Rechenleistung ist die H100 SXM das bessere Angebot: $1.83 vs. $2.93 pro PFLOP-Stunde dense FP16/BF16.
| Daten / Preis | H100 SXM | H200 SXM |
|---|---|---|
| Speicher | 80 GB HBM3 | 141 GB HBM3ebesser |
| Speicherbandbreite | 3,350 GB/s | 4,800 GB/sbesser |
| FP16 / BF16 (dense) | 0.989 PF | 0.989 PF |
| FP8 (dense) | 1.98 PF | 1.98 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 1.98 PF | 1.98 PF |
| TF32 (dense) | 0.495 PF | 0.495 PF |
| FP32 (dense) | 0.067 PF | 0.067 PF |
| FP64 (dense) | 0.067 PF | 0.067 PF |
| Leistungsaufnahme | 700 W | 700 W |
| Architektur | Hopper (2022) | Hopper (2024) |
| Niedrigster On-Demand-Preis | $1.82besser | $2.90 |
| Median On-Demand | $3.52besser | $4.49 |
| Niedrigster Spot-Preis | $1.45 | $0.85besser |
| FP16/BF16 $ pro PFLOP·h | $1.83besser | $2.93 |
| Anbieter | 31 | 22 |
H100 SXM vs. H200 SXM: Fragen
Ist die H100 SXM schneller als die H200 SXM?
Die H100 SXM und die H200 SXM haben gleich viel dichte FP16/BF16-Rechenleistung. Die H200 SXM hat 1.4× mehr Speicherbandbreite als die H100 SXM. Der reale Geschwindigkeitsgewinn hängt von der Last ab: Training und Prefill skalieren mit der Rechenleistung, LLM-Decoding dagegen vor allem mit der Speicherbandbreite.
Welche ist pro FLOP günstiger, die H100 SXM oder die H200 SXM?
Derzeit ist die H100 SXM pro Einheit Rechenleistung günstiger: $1.83 vs. $2.93 pro PFLOP-Stunde zu den niedrigsten On-Demand-Preisen.
Was kostet es, eine H100 SXM bzw. eine H200 SXM einen Monat lang zu mieten?
Eine GPU rund um die Uhr zum niedrigsten On-Demand-Preis kostet etwa $1,325 pro Monat für die H100 SXM und $2,119 für die H200 SXM.
Welche hat mehr Speicher, die H100 SXM oder die H200 SXM?
Die H200 SXM hat mehr Speicher: 141 GB vs. 80 GB.