…
H200 SXM vs. Instinct MI300X
Cloud-Mietpreis, Rechenleistung pro Dollar und technische Daten im direkten Vergleich.
Im interaktiven Vergleich öffnen →
H200 SXM$2.10niedrigster On-Demand-Preis pro GPU·h
$2.12 pro PFLOP·h · 20 Anbieter
Instinct MI300X$1.71niedrigster On-Demand-Preis pro GPU·h
$1.31 pro PFLOP·h · 10 AnbieterWas sich wirklich unterscheidet
- Die Instinct MI300X hat 1.3× mehr dichte FP16/BF16-Leistung als die H200 SXM (0.989 PF vs. 1.31 PF).
- Die Instinct MI300X hat 1.1× mehr Speicherbandbreite als die H200 SXM (4,800 vs. 5,300 GB/s), was meist die Token-Generierung von LLMs begrenzt. Speicher: 141 GB vs. 192 GB.
- Die Instinct MI300X ist pro Stunde 19 % günstiger als die H200 SXM, gemessen an den niedrigsten On-Demand-Preisen ($2.10 vs. $1.71).
- Pro Einheit Rechenleistung ist die Instinct MI300X das bessere Angebot: $1.31 vs. $2.12 pro PFLOP-Stunde dense FP16/BF16.
| Daten / Preis | H200 SXM | Instinct MI300X |
|---|---|---|
| Speicher | 141 GB HBM3e | 192 GB HBM3besser |
| Speicherbandbreite | 4,800 GB/s | 5,300 GB/sbesser |
| FP16 / BF16 (dense) | 0.989 PF | 1.31 PFbesser |
| FP8 (dense) | 1.98 PF | 2.61 PFbesser |
| FP4 (dense) | — | — |
| INT8 (dense) | 1.98 PF | 2.61 PFbesser |
| TF32 (dense) | 0.495 PF | 0.654 PFbesser |
| FP32 (dense) | 0.067 PF | 0.163 PFbesser |
| FP64 (dense) | 0.067 PF | 0.163 PFbesser |
| Leistungsaufnahme | 700 W | 750 W |
| Architektur | Hopper (2024) | CDNA 3 (2023) |
| Niedrigster On-Demand-Preis | $2.10 | $1.71besser |
| Median On-Demand | $3.99 | $2.99besser |
| Niedrigster Spot-Preis | $0.79besser | $1.11 |
| FP16/BF16 $ pro PFLOP·h | $2.12 | $1.31besser |
| Anbieter | 20 | 10 |
H200 SXM vs. Instinct MI300X: Fragen
Ist die H200 SXM schneller als die Instinct MI300X?
Die Instinct MI300X hat 1.3× mehr dichte FP16/BF16-Rechenleistung als die H200 SXM. Die Instinct MI300X hat 1.1× mehr Speicherbandbreite als die H200 SXM. Der reale Geschwindigkeitsgewinn hängt von der Last ab: Training und Prefill skalieren mit der Rechenleistung, LLM-Decoding dagegen vor allem mit der Speicherbandbreite.
Welche ist pro FLOP günstiger, die H200 SXM oder die Instinct MI300X?
Derzeit ist die Instinct MI300X pro Einheit Rechenleistung günstiger: $1.31 vs. $2.12 pro PFLOP-Stunde zu den niedrigsten On-Demand-Preisen.
Was kostet es, eine H200 SXM bzw. eine Instinct MI300X einen Monat lang zu mieten?
Eine GPU rund um die Uhr zum niedrigsten On-Demand-Preis kostet etwa $1,533 pro Monat für die H200 SXM und $1,248 für die Instinct MI300X.
Welche hat mehr Speicher, die H200 SXM oder die Instinct MI300X?
Die Instinct MI300X hat mehr Speicher: 192 GB vs. 141 GB.