…
H100 SXM vs. A100 SXM 80GB
Cloud-Mietpreis, Rechenleistung pro Dollar und technische Daten im direkten Vergleich.
Im interaktiven Vergleich öffnen →
H100 SXM$1.66niedrigster On-Demand-Preis pro GPU·h
$1.68 pro PFLOP·h · 27 AnbieterA100 SXM 80GB$0.81niedrigster On-Demand-Preis pro GPU·h
$2.58 pro PFLOP·h · 17 AnbieterWas sich wirklich unterscheidet
- Die H100 SXM hat 3.2× mehr dichte FP16/BF16-Leistung als die A100 SXM 80GB (0.989 PF vs. 0.312 PF).
- Die H100 SXM hat 1.6× mehr Speicherbandbreite als die A100 SXM 80GB (3,350 vs. 2,039 GB/s), was meist die Token-Generierung von LLMs begrenzt. Speicher: 80 GB vs. 80 GB.
- Nur die H100 SXM hat native FP8-Tensor-Cores.
- Die A100 SXM 80GB ist pro Stunde 52 % günstiger als die H100 SXM, gemessen an den niedrigsten On-Demand-Preisen ($1.66 vs. $0.81).
- Pro Einheit Rechenleistung ist die H100 SXM das bessere Angebot: $1.68 vs. $2.58 pro PFLOP-Stunde dense FP16/BF16.
| Daten / Preis | H100 SXM | A100 SXM 80GB |
|---|---|---|
| Speicher | 80 GB HBM3 | 80 GB HBM2e |
| Speicherbandbreite | 3,350 GB/sbesser | 2,039 GB/s |
| FP16 / BF16 (dense) | 0.989 PFbesser | 0.312 PF |
| FP8 (dense) | 1.98 PF | — |
| FP4 (dense) | — | — |
| INT8 (dense) | 1.98 PFbesser | 0.624 PF |
| TF32 (dense) | 0.495 PFbesser | 0.156 PF |
| FP32 (dense) | 0.067 PFbesser | 0.0195 PF |
| FP64 (dense) | 0.067 PFbesser | 0.0195 PF |
| Leistungsaufnahme | 700 W | 400 W |
| Architektur | Hopper (2022) | Ampere (2020) |
| Niedrigster On-Demand-Preis | $1.66 | $0.81besser |
| Median On-Demand | $3.09 | $2.35besser |
| Niedrigster Spot-Preis | $0.79besser | $0.90 |
| FP16/BF16 $ pro PFLOP·h | $1.68besser | $2.58 |
| Anbieter | 27 | 17 |
H100 SXM vs. A100 SXM 80GB: Fragen
Ist die H100 SXM schneller als die A100 SXM 80GB?
Die H100 SXM hat 3.2× mehr dichte FP16/BF16-Rechenleistung als die A100 SXM 80GB. Die H100 SXM hat 1.6× mehr Speicherbandbreite als die A100 SXM 80GB. Der reale Geschwindigkeitsgewinn hängt von der Last ab: Training und Prefill skalieren mit der Rechenleistung, LLM-Decoding dagegen vor allem mit der Speicherbandbreite.
Welche ist pro FLOP günstiger, die H100 SXM oder die A100 SXM 80GB?
Derzeit ist die H100 SXM pro Einheit Rechenleistung günstiger: $1.68 vs. $2.58 pro PFLOP-Stunde zu den niedrigsten On-Demand-Preisen.
Was kostet es, eine H100 SXM bzw. eine A100 SXM 80GB einen Monat lang zu mieten?
Eine GPU rund um die Uhr zum niedrigsten On-Demand-Preis kostet etwa $1,212 pro Monat für die H100 SXM und $588 für die A100 SXM 80GB.
Welche hat mehr Speicher, die H100 SXM oder die A100 SXM 80GB?
Beide haben 80 GB VRAM; die H100 SXM hat mehr Bandbreite.