…
Instinct MI300X vs Instinct MI325X
Precio de alquiler en la nube, cómputo por dólar y especificaciones, lado a lado.
Abrir en el comparador interactivo →
Instinct MI300X$1.71mínimo bajo demanda por GPU·h
$1.31 por PFLOP·h · 10 proveedoresInstinct MI325X$2.25mínimo bajo demanda por GPU·h
$1.72 por PFLOP·h · 3 proveedoresQué las diferencia realmente
- La Instinct MI300X y la Instinct MI325X tienen el mismo rendimiento FP16/BF16 denso (1.31 PF vs 1.31 PF).
- La Instinct MI325X tiene 1.1× más ancho de banda de memoria que la Instinct MI300X (5,300 vs 6,000 GB/s), lo que suele limitar la generación de tokens en LLM. Memoria: 192 GB vs 256 GB.
- La Instinct MI300X es un 24% más barata por hora que la Instinct MI325X con los precios bajo demanda más bajos ($1.71 vs $2.25).
- Por unidad de cómputo, la Instinct MI300X es la mejor opción: $1.31 vs $1.72 por PFLOP-hora de FP16/BF16 denso.
| Especificación / precio | Instinct MI300X | Instinct MI325X |
|---|---|---|
| Memoria | 192 GB HBM3 | 256 GB HBM3emejor |
| Ancho de banda de memoria | 5,300 GB/s | 6,000 GB/smejor |
| FP16 / BF16 (denso) | 1.31 PF | 1.31 PF |
| FP8 (denso) | 2.61 PF | 2.61 PF |
| FP4 (denso) | — | — |
| INT8 (denso) | 2.61 PF | 2.61 PF |
| TF32 (denso) | 0.654 PF | 0.654 PF |
| FP32 (denso) | 0.163 PF | 0.163 PF |
| FP64 (denso) | 0.163 PF | 0.163 PF |
| Consumo | 750 W | 1000 W |
| Arquitectura | CDNA 3 (2023) | CDNA 3 (2024) |
| Mínimo bajo demanda | $1.71mejor | $2.25 |
| Mediana bajo demanda | $2.99mejor | $3.80 |
| Mínimo spot | $1.11 | — |
| FP16/BF16 $ por PFLOP·h | $1.31mejor | $1.72 |
| Proveedores | 10 | 3 |
Instinct MI300X vs Instinct MI325X: preguntas
¿Es la Instinct MI300X más rápida que la Instinct MI325X?
La Instinct MI300X y la Instinct MI325X tienen el mismo cómputo FP16/BF16 denso. La Instinct MI325X tiene 1.1× más ancho de banda de memoria que la Instinct MI300X. La aceleración real depende de la carga de trabajo: el entrenamiento y el prefill escalan con el cómputo, mientras que la decodificación de LLM escala sobre todo con el ancho de banda de memoria.
¿Cuál es más barata por FLOP, la Instinct MI300X o la Instinct MI325X?
Ahora mismo la Instinct MI300X es más barata por unidad de cómputo: $1.31 vs $1.72 por PFLOP-hora con los precios bajo demanda más bajos.
¿Cuánto cuesta alquilar una Instinct MI300X frente a una Instinct MI325X durante un mes?
Mantener una GPU funcionando las 24 horas al precio bajo demanda más bajo cuesta unos $1,248 al mes con la Instinct MI300X y $1,643 con la Instinct MI325X.
¿Cuál tiene más memoria, la Instinct MI300X o la Instinct MI325X?
La Instinct MI325X tiene más memoria: 256 GB vs 192 GB.