…
H100 SXM vs B200 SXM
Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →
H100 SXM$1.66le plus bas à la demande par GPU·h
$1.68 par PFLOP·h · 28 fournisseursB200 SXM$3.74le plus bas à la demande par GPU·h
$1.66 par PFLOP·h · 15 fournisseursCe qui les distingue vraiment
- Le B200 SXM offre 2.3× plus de débit FP16/BF16 dense que le H100 SXM (0.989 PF vs 2.25 PF).
- Le B200 SXM offre 2.3× plus de bande passante mémoire que le H100 SXM (3,350 vs 7,700 GB/s), ce qui limite généralement la génération de tokens des LLM. Mémoire : 80 GB vs 180 GB.
- Seul le B200 SXM prend en charge le FP4.
- Le H100 SXM est 56 % moins cher à l'heure que le B200 SXM aux prix à la demande les plus bas ($1.66 vs $3.74).
- Par unité de calcul, le B200 SXM est le plus avantageux : $1.66 vs $1.68 par PFLOP-heure en FP16/BF16 dense.
| Caractéristique / prix | H100 SXM | B200 SXM |
|---|---|---|
| Mémoire | 80 GB HBM3 | 180 GB HBM3emeilleur |
| Bande passante mémoire | 3,350 GB/s | 7,700 GB/smeilleur |
| FP16 / BF16 (dense) | 0.989 PF | 2.25 PFmeilleur |
| FP8 (dense) | 1.98 PF | 4.5 PFmeilleur |
| FP4 (dense) | — | 9 PF |
| INT8 (dense) | 1.98 PF | 4.5 PFmeilleur |
| TF32 (dense) | 0.495 PF | 1.1 PFmeilleur |
| FP32 (dense) | 0.067 PF | 0.075 PFmeilleur |
| FP64 (dense) | 0.067 PFmeilleur | 0.037 PF |
| Consommation | 700 W | 1000 W |
| Architecture | Hopper (2022) | Blackwell (2024) |
| Le plus bas à la demande | $1.66meilleur | $3.74 |
| Médiane à la demande | $3.19meilleur | $6.80 |
| Le plus bas en spot | $0.79meilleur | $0.99 |
| FP16/BF16 $ par PFLOP·h | $1.68 | $1.66meilleur |
| Fournisseurs | 28 | 15 |
H100 SXM vs B200 SXM : questions
Le H100 SXM est-il plus rapide que le B200 SXM ?
Le B200 SXM offre 2.3× plus de calcul FP16/BF16 dense que le H100 SXM. Le B200 SXM offre 2.3× plus de bande passante mémoire que le H100 SXM. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Lequel est le moins cher par FLOP, le H100 SXM ou le B200 SXM ?
Actuellement, le B200 SXM est le moins cher par unité de calcul : $1.66 vs $1.68 par PFLOP-heure aux prix à la demande les plus bas.
Combien coûte la location d'un H100 SXM vs un B200 SXM pendant un mois ?
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $1,212 par mois pour le H100 SXM et $2,730 pour le B200 SXM.
Lequel a le plus de mémoire, le H100 SXM ou le B200 SXM ?
Le B200 SXM a plus de mémoire : 180 GB vs 80 GB.