…
GH200 vs H100 SXM
Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →
GH200$1.99le plus bas à la demande par GPU·h
$2.01 par PFLOP·h · 3 fournisseursH100 SXM$1.66le plus bas à la demande par GPU·h
$1.68 par PFLOP·h · 28 fournisseursCe qui les distingue vraiment
- Le GH200 et le H100 SXM sont à égalité en débit FP16/BF16 dense (0.989 PF vs 0.989 PF).
- Le GH200 offre 1.2× plus de bande passante mémoire que le H100 SXM (4,000 vs 3,350 GB/s), ce qui limite généralement la génération de tokens des LLM. Mémoire : 96 GB vs 80 GB.
- Le H100 SXM est 17 % moins cher à l'heure que le GH200 aux prix à la demande les plus bas ($1.99 vs $1.66).
- Par unité de calcul, le H100 SXM est le plus avantageux : $1.68 vs $2.01 par PFLOP-heure en FP16/BF16 dense.
| Caractéristique / prix | GH200 | H100 SXM |
|---|---|---|
| Mémoire | 96 GB HBM3meilleur | 80 GB HBM3 |
| Bande passante mémoire | 4,000 GB/smeilleur | 3,350 GB/s |
| FP16 / BF16 (dense) | 0.989 PF | 0.989 PF |
| FP8 (dense) | 1.98 PF | 1.98 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 1.98 PF | 1.98 PF |
| TF32 (dense) | 0.495 PF | 0.495 PF |
| FP32 (dense) | 0.067 PF | 0.067 PF |
| FP64 (dense) | 0.067 PF | 0.067 PF |
| Consommation | 1000 W | 700 W |
| Architecture | Hopper (2023) | Hopper (2022) |
| Le plus bas à la demande | $1.99 | $1.66meilleur |
| Médiane à la demande | $2.29meilleur | $3.19 |
| Le plus bas en spot | — | $0.79 |
| FP16/BF16 $ par PFLOP·h | $2.01 | $1.68meilleur |
| Fournisseurs | 3 | 28 |
GH200 vs H100 SXM : questions
Le GH200 est-il plus rapide que le H100 SXM ?
Le GH200 et le H100 SXM sont à égalité en calcul FP16/BF16 dense. Le GH200 offre 1.2× plus de bande passante mémoire que le H100 SXM. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Lequel est le moins cher par FLOP, le GH200 ou le H100 SXM ?
Actuellement, le H100 SXM est le moins cher par unité de calcul : $1.68 vs $2.01 par PFLOP-heure aux prix à la demande les plus bas.
Combien coûte la location d'un GH200 vs un H100 SXM pendant un mois ?
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $1,453 par mois pour le GH200 et $1,212 pour le H100 SXM.
Lequel a le plus de mémoire, le GH200 ou le H100 SXM ?
Le GH200 a plus de mémoire : 96 GB vs 80 GB.