…
H100 SXM vs A100 SXM 80GB
Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →
H100 SXM$1.66le plus bas à la demande par GPU·h
$1.68 par PFLOP·h · 28 fournisseursA100 SXM 80GB$0.81le plus bas à la demande par GPU·h
$2.60 par PFLOP·h · 17 fournisseursCe qui les distingue vraiment
- Le H100 SXM offre 3.2× plus de débit FP16/BF16 dense que le A100 SXM 80GB (0.989 PF vs 0.312 PF).
- Le H100 SXM offre 1.6× plus de bande passante mémoire que le A100 SXM 80GB (3,350 vs 2,039 GB/s), ce qui limite généralement la génération de tokens des LLM. Mémoire : 80 GB vs 80 GB.
- Seul le H100 SXM dispose de tensor cores FP8 natifs.
- Le A100 SXM 80GB est 51 % moins cher à l'heure que le H100 SXM aux prix à la demande les plus bas ($1.66 vs $0.81).
- Par unité de calcul, le H100 SXM est le plus avantageux : $1.68 vs $2.60 par PFLOP-heure en FP16/BF16 dense.
| Caractéristique / prix | H100 SXM | A100 SXM 80GB |
|---|---|---|
| Mémoire | 80 GB HBM3 | 80 GB HBM2e |
| Bande passante mémoire | 3,350 GB/smeilleur | 2,039 GB/s |
| FP16 / BF16 (dense) | 0.989 PFmeilleur | 0.312 PF |
| FP8 (dense) | 1.98 PF | — |
| FP4 (dense) | — | — |
| INT8 (dense) | 1.98 PFmeilleur | 0.624 PF |
| TF32 (dense) | 0.495 PFmeilleur | 0.156 PF |
| FP32 (dense) | 0.067 PFmeilleur | 0.0195 PF |
| FP64 (dense) | 0.067 PFmeilleur | 0.0195 PF |
| Consommation | 700 W | 400 W |
| Architecture | Hopper (2022) | Ampere (2020) |
| Le plus bas à la demande | $1.66 | $0.81meilleur |
| Médiane à la demande | $3.19 | $2.35meilleur |
| Le plus bas en spot | $0.79meilleur | $0.90 |
| FP16/BF16 $ par PFLOP·h | $1.68meilleur | $2.60 |
| Fournisseurs | 28 | 17 |
H100 SXM vs A100 SXM 80GB : questions
Le H100 SXM est-il plus rapide que le A100 SXM 80GB ?
Le H100 SXM offre 3.2× plus de calcul FP16/BF16 dense que le A100 SXM 80GB. Le H100 SXM offre 1.6× plus de bande passante mémoire que le A100 SXM 80GB. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Lequel est le moins cher par FLOP, le H100 SXM ou le A100 SXM 80GB ?
Actuellement, le H100 SXM est le moins cher par unité de calcul : $1.68 vs $2.60 par PFLOP-heure aux prix à la demande les plus bas.
Combien coûte la location d'un H100 SXM vs un A100 SXM 80GB pendant un mois ?
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $1,212 par mois pour le H100 SXM et $591 pour le A100 SXM 80GB.
Lequel a le plus de mémoire, le H100 SXM ou le A100 SXM 80GB ?
Les deux ont 80 GB de VRAM ; le H100 SXM dispose de plus de bande passante.