…
H100 NVL vs H100 SXM
Precio de alquiler en la nube, cómputo por dólar y especificaciones, lado a lado.
Abrir en el comparador interactivo →
H100 NVL$2.59mínimo bajo demanda por GPU·h
$3.10 por PFLOP·h · 4 proveedoresH100 SXM$1.66mínimo bajo demanda por GPU·h
$1.68 por PFLOP·h · 27 proveedoresQué las diferencia realmente
- La H100 SXM tiene 1.2× más rendimiento FP16/BF16 denso que la H100 NVL (0.835 PF vs 0.989 PF).
- La H100 NVL tiene 1.2× más ancho de banda de memoria que la H100 SXM (3,900 vs 3,350 GB/s), lo que suele limitar la generación de tokens en LLM. Memoria: 94 GB vs 80 GB.
- La H100 SXM es un 36% más barata por hora que la H100 NVL con los precios bajo demanda más bajos ($2.59 vs $1.66).
- Por unidad de cómputo, la H100 SXM es la mejor opción: $1.68 vs $3.10 por PFLOP-hora de FP16/BF16 denso.
| Especificación / precio | H100 NVL | H100 SXM |
|---|---|---|
| Memoria | 94 GB HBM3mejor | 80 GB HBM3 |
| Ancho de banda de memoria | 3,900 GB/smejor | 3,350 GB/s |
| FP16 / BF16 (denso) | 0.835 PF | 0.989 PFmejor |
| FP8 (denso) | 1.67 PF | 1.98 PFmejor |
| FP4 (denso) | — | — |
| INT8 (denso) | 1.67 PF | 1.98 PFmejor |
| TF32 (denso) | 0.417 PF | 0.495 PFmejor |
| FP32 (denso) | 0.06 PF | 0.067 PFmejor |
| FP64 (denso) | 0.06 PF | 0.067 PFmejor |
| Consumo | 400 W | 700 W |
| Arquitectura | Hopper (2023) | Hopper (2022) |
| Mínimo bajo demanda | $2.59 | $1.66mejor |
| Mediana bajo demanda | $2.88mejor | $3.09 |
| Mínimo spot | $1.29 | $0.79mejor |
| FP16/BF16 $ por PFLOP·h | $3.10 | $1.68mejor |
| Proveedores | 4 | 27 |
H100 NVL vs H100 SXM: preguntas
¿Es la H100 NVL más rápida que la H100 SXM?
La H100 SXM tiene 1.2× más cómputo FP16/BF16 denso que la H100 NVL. La H100 NVL tiene 1.2× más ancho de banda de memoria que la H100 SXM. La aceleración real depende de la carga de trabajo: el entrenamiento y el prefill escalan con el cómputo, mientras que la decodificación de LLM escala sobre todo con el ancho de banda de memoria.
¿Cuál es más barata por FLOP, la H100 NVL o la H100 SXM?
Ahora mismo la H100 SXM es más barata por unidad de cómputo: $1.68 vs $3.10 por PFLOP-hora con los precios bajo demanda más bajos.
¿Cuánto cuesta alquilar una H100 NVL frente a una H100 SXM durante un mes?
Mantener una GPU funcionando las 24 horas al precio bajo demanda más bajo cuesta unos $1,891 al mes con la H100 NVL y $1,212 con la H100 SXM.
¿Cuál tiene más memoria, la H100 NVL o la H100 SXM?
La H100 NVL tiene más memoria: 94 GB vs 80 GB.