…
Instinct MI300X vs Instinct MI325X
Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →
Instinct MI300X$1.71le plus bas à la demande par GPU·h
$1.31 par PFLOP·h · 10 fournisseursInstinct MI325X$2.25le plus bas à la demande par GPU·h
$1.72 par PFLOP·h · 3 fournisseursCe qui les distingue vraiment
- Le Instinct MI300X et le Instinct MI325X sont à égalité en débit FP16/BF16 dense (1.31 PF vs 1.31 PF).
- Le Instinct MI325X offre 1.1× plus de bande passante mémoire que le Instinct MI300X (5,300 vs 6,000 GB/s), ce qui limite généralement la génération de tokens des LLM. Mémoire : 192 GB vs 256 GB.
- Le Instinct MI300X est 24 % moins cher à l'heure que le Instinct MI325X aux prix à la demande les plus bas ($1.71 vs $2.25).
- Par unité de calcul, le Instinct MI300X est le plus avantageux : $1.31 vs $1.72 par PFLOP-heure en FP16/BF16 dense.
| Caractéristique / prix | Instinct MI300X | Instinct MI325X |
|---|---|---|
| Mémoire | 192 GB HBM3 | 256 GB HBM3emeilleur |
| Bande passante mémoire | 5,300 GB/s | 6,000 GB/smeilleur |
| FP16 / BF16 (dense) | 1.31 PF | 1.31 PF |
| FP8 (dense) | 2.61 PF | 2.61 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 2.61 PF | 2.61 PF |
| TF32 (dense) | 0.654 PF | 0.654 PF |
| FP32 (dense) | 0.163 PF | 0.163 PF |
| FP64 (dense) | 0.163 PF | 0.163 PF |
| Consommation | 750 W | 1000 W |
| Architecture | CDNA 3 (2023) | CDNA 3 (2024) |
| Le plus bas à la demande | $1.71meilleur | $2.25 |
| Médiane à la demande | $2.99meilleur | $3.80 |
| Le plus bas en spot | $1.11 | — |
| FP16/BF16 $ par PFLOP·h | $1.31meilleur | $1.72 |
| Fournisseurs | 10 | 3 |
Instinct MI300X vs Instinct MI325X : questions
Le Instinct MI300X est-il plus rapide que le Instinct MI325X ?
Le Instinct MI300X et le Instinct MI325X sont à égalité en calcul FP16/BF16 dense. Le Instinct MI325X offre 1.1× plus de bande passante mémoire que le Instinct MI300X. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Lequel est le moins cher par FLOP, le Instinct MI300X ou le Instinct MI325X ?
Actuellement, le Instinct MI300X est le moins cher par unité de calcul : $1.31 vs $1.72 par PFLOP-heure aux prix à la demande les plus bas.
Combien coûte la location d'un Instinct MI300X vs un Instinct MI325X pendant un mois ?
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $1,248 par mois pour le Instinct MI300X et $1,643 pour le Instinct MI325X.
Lequel a le plus de mémoire, le Instinct MI300X ou le Instinct MI325X ?
Le Instinct MI325X a plus de mémoire : 256 GB vs 192 GB.