…
H100 SXM vs A100 SXM 80GB
Precio de alquiler en la nube, cómputo por dólar y especificaciones, lado a lado.
Abrir en el comparador interactivo →
H100 SXM$1.66mínimo bajo demanda por GPU·h
$1.68 por PFLOP·h · 27 proveedoresA100 SXM 80GB$0.81mínimo bajo demanda por GPU·h
$2.58 por PFLOP·h · 17 proveedoresQué las diferencia realmente
- La H100 SXM tiene 3.2× más rendimiento FP16/BF16 denso que la A100 SXM 80GB (0.989 PF vs 0.312 PF).
- La H100 SXM tiene 1.6× más ancho de banda de memoria que la A100 SXM 80GB (3,350 vs 2,039 GB/s), lo que suele limitar la generación de tokens en LLM. Memoria: 80 GB vs 80 GB.
- Solo la H100 SXM tiene tensor cores FP8 nativos.
- La A100 SXM 80GB es un 52% más barata por hora que la H100 SXM con los precios bajo demanda más bajos ($1.66 vs $0.81).
- Por unidad de cómputo, la H100 SXM es la mejor opción: $1.68 vs $2.58 por PFLOP-hora de FP16/BF16 denso.
| Especificación / precio | H100 SXM | A100 SXM 80GB |
|---|---|---|
| Memoria | 80 GB HBM3 | 80 GB HBM2e |
| Ancho de banda de memoria | 3,350 GB/smejor | 2,039 GB/s |
| FP16 / BF16 (denso) | 0.989 PFmejor | 0.312 PF |
| FP8 (denso) | 1.98 PF | — |
| FP4 (denso) | — | — |
| INT8 (denso) | 1.98 PFmejor | 0.624 PF |
| TF32 (denso) | 0.495 PFmejor | 0.156 PF |
| FP32 (denso) | 0.067 PFmejor | 0.0195 PF |
| FP64 (denso) | 0.067 PFmejor | 0.0195 PF |
| Consumo | 700 W | 400 W |
| Arquitectura | Hopper (2022) | Ampere (2020) |
| Mínimo bajo demanda | $1.66 | $0.81mejor |
| Mediana bajo demanda | $3.09 | $2.35mejor |
| Mínimo spot | $0.79mejor | $0.90 |
| FP16/BF16 $ por PFLOP·h | $1.68mejor | $2.58 |
| Proveedores | 27 | 17 |
H100 SXM vs A100 SXM 80GB: preguntas
¿Es la H100 SXM más rápida que la A100 SXM 80GB?
La H100 SXM tiene 3.2× más cómputo FP16/BF16 denso que la A100 SXM 80GB. La H100 SXM tiene 1.6× más ancho de banda de memoria que la A100 SXM 80GB. La aceleración real depende de la carga de trabajo: el entrenamiento y el prefill escalan con el cómputo, mientras que la decodificación de LLM escala sobre todo con el ancho de banda de memoria.
¿Cuál es más barata por FLOP, la H100 SXM o la A100 SXM 80GB?
Ahora mismo la H100 SXM es más barata por unidad de cómputo: $1.68 vs $2.58 por PFLOP-hora con los precios bajo demanda más bajos.
¿Cuánto cuesta alquilar una H100 SXM frente a una A100 SXM 80GB durante un mes?
Mantener una GPU funcionando las 24 horas al precio bajo demanda más bajo cuesta unos $1,212 al mes con la H100 SXM y $588 con la A100 SXM 80GB.
¿Cuál tiene más memoria, la H100 SXM o la A100 SXM 80GB?
Ambas tienen 80 GB de VRAM; la H100 SXM tiene más ancho de banda.