Cloud-Mietpreis, Rechenleistung pro Dollar und technische Daten im direkten Vergleich.
Im interaktiven Vergleich öffnen →| Daten / Preis | Instinct MI300X | Instinct MI325X |
|---|---|---|
| Speicher | 192 GB HBM3 | 256 GB HBM3ebesser |
| Speicherbandbreite | 5,300 GB/s | 6,000 GB/sbesser |
| FP16 / BF16 (dense) | 1.31 PF | 1.31 PF |
| FP8 (dense) | 2.61 PF | 2.61 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 2.61 PF | 2.61 PF |
| TF32 (dense) | 0.654 PF | 0.654 PF |
| FP32 (dense) | 0.163 PF | 0.163 PF |
| FP64 (dense) | 0.163 PF | 0.163 PF |
| Leistungsaufnahme | 750 W | 1000 W |
| Architektur | CDNA 3 (2023) | CDNA 3 (2024) |
| Niedrigster On-Demand-Preis | $1.71besser | $2.25 |
| Median On-Demand | $2.99besser | $3.80 |
| Niedrigster Spot-Preis | $1.11 | — |
| FP16/BF16 $ pro PFLOP·h | $1.31besser | $1.72 |
| Anbieter | 10 | 3 |
Die Instinct MI300X und die Instinct MI325X haben gleich viel dichte FP16/BF16-Rechenleistung. Die Instinct MI325X hat 1.1× mehr Speicherbandbreite als die Instinct MI300X. Der reale Geschwindigkeitsgewinn hängt von der Last ab: Training und Prefill skalieren mit der Rechenleistung, LLM-Decoding dagegen vor allem mit der Speicherbandbreite.
Derzeit ist die Instinct MI300X pro Einheit Rechenleistung günstiger: $1.31 vs. $1.72 pro PFLOP-Stunde zu den niedrigsten On-Demand-Preisen.
Eine GPU rund um die Uhr zum niedrigsten On-Demand-Preis kostet etwa $1,248 pro Monat für die Instinct MI300X und $1,643 für die Instinct MI325X.
Die Instinct MI325X hat mehr Speicher: 256 GB vs. 192 GB.