…
H100 SXM vs H200 SXM
Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →
H100 SXM$1.66le plus bas à la demande par GPU·h
$1.68 par PFLOP·h · 28 fournisseursH200 SXM$2.10le plus bas à la demande par GPU·h
$2.12 par PFLOP·h · 22 fournisseursCe qui les distingue vraiment
- Le H100 SXM et le H200 SXM sont à égalité en débit FP16/BF16 dense (0.989 PF vs 0.989 PF).
- Le H200 SXM offre 1.4× plus de bande passante mémoire que le H100 SXM (3,350 vs 4,800 GB/s), ce qui limite généralement la génération de tokens des LLM. Mémoire : 80 GB vs 141 GB.
- Le H100 SXM est 21 % moins cher à l'heure que le H200 SXM aux prix à la demande les plus bas ($1.66 vs $2.10).
- Par unité de calcul, le H100 SXM est le plus avantageux : $1.68 vs $2.12 par PFLOP-heure en FP16/BF16 dense.
| Caractéristique / prix | H100 SXM | H200 SXM |
|---|---|---|
| Mémoire | 80 GB HBM3 | 141 GB HBM3emeilleur |
| Bande passante mémoire | 3,350 GB/s | 4,800 GB/smeilleur |
| FP16 / BF16 (dense) | 0.989 PF | 0.989 PF |
| FP8 (dense) | 1.98 PF | 1.98 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 1.98 PF | 1.98 PF |
| TF32 (dense) | 0.495 PF | 0.495 PF |
| FP32 (dense) | 0.067 PF | 0.067 PF |
| FP64 (dense) | 0.067 PF | 0.067 PF |
| Consommation | 700 W | 700 W |
| Architecture | Hopper (2022) | Hopper (2024) |
| Le plus bas à la demande | $1.66meilleur | $2.10 |
| Médiane à la demande | $3.19meilleur | $3.99 |
| Le plus bas en spot | $0.79 | $0.79 |
| FP16/BF16 $ par PFLOP·h | $1.68meilleur | $2.12 |
| Fournisseurs | 28 | 22 |
H100 SXM vs H200 SXM : questions
Le H100 SXM est-il plus rapide que le H200 SXM ?
Le H100 SXM et le H200 SXM sont à égalité en calcul FP16/BF16 dense. Le H200 SXM offre 1.4× plus de bande passante mémoire que le H100 SXM. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Lequel est le moins cher par FLOP, le H100 SXM ou le H200 SXM ?
Actuellement, le H100 SXM est le moins cher par unité de calcul : $1.68 vs $2.12 par PFLOP-heure aux prix à la demande les plus bas.
Combien coûte la location d'un H100 SXM vs un H200 SXM pendant un mois ?
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $1,212 par mois pour le H100 SXM et $1,533 pour le H200 SXM.
Lequel a le plus de mémoire, le H100 SXM ou le H200 SXM ?
Le H200 SXM a plus de mémoire : 141 GB vs 80 GB.