Hopper vs Blackwell
Les deux générations actuelles de GPU de data center de NVIDIA, comparées sur leurs caractéristiques et sur ce que coûte leur location en ce moment.
FP8 dense
2.3×
4.5 PF vs 1.98 PF
Mémoire
2.3×
180 vs 80 GB
Bande passante
2.3×
7,700 vs 3,350 GB/s
Prix par heure GPU
1.8×
$3.20 vs $1.82
$ par PFLOP·h (FP8)
0.8×
$0.71 vs $0.92
B200 SXM vs H100 SXM
En ce moment, le B200 SXM est le moins cher par unité de calcul FP8 dense parmi ces GPU : $0.71 par PFLOP-heure à $3.20 par heure GPU.
En bref
Choisissez Hopper (H100, H200) si
- vous voulez le plus grand choix de fournisseurs
- votre modèle tient dans 80 à 141 GB par GPU
- un prix horaire bas compte plus que le temps d'obtention des résultats
- vous avez besoin de FP64 : Blackwell en offre beaucoup moins
Choisissez Blackwell (B200, B300) si
- votre logiciel utilise le FP8 ou le FP4 et exploite pleinement le GPU
- vous avez besoin de 180 à 288 GB de mémoire par GPU
- vous voulez que vos entraînements se terminent plus tôt
- vous servez de grands modèles et pouvez les quantifier en FP4
Caractéristiques et prix
| H100 SXM | H200 SXM | B200 SXM | B300 SXM | |
|---|---|---|---|---|
| Architecture | Hopper | Hopper | Blackwell | Blackwell Ultra |
| Mémoire | 80 GB HBM3 | 141 GB HBM3e | 180 GB HBM3e | 288 GB HBM3e |
| Bande passante mémoire | 3,350 GB/s | 4,800 GB/s | 7,700 GB/s | 8,000 GB/s |
| FP4 (dense) | — | — | 9 PF | 13.5 PF |
| FP8 (dense) | 1.98 PF | 1.98 PF | 4.5 PF | 4.5 PF |
| FP16/BF16 (dense) | 0.989 PF | 0.989 PF | 2.25 PF | 2.25 PF |
| FP64 (dense) | 0.067 PF | 0.067 PF | 0.037 PF | 0.0013 PF |
| Consommation | 700 W | 700 W | 1,000 W | 1,100 W |
| Le plus bas à la demande | $1.82 | $2.25 | $3.20 | $6.60 |
| $ par PFLOP·h (FP8) | $0.92 | $1.14 | $0.71 | $1.47 |
| Fournisseurs | 22 | 16 | 11 | 12 |
Tous les GPU de data center Hopper et Blackwell
Avec leur prix à la demande le plus bas et leur coût par PFLOP-heure en FP8 dense.
Comparer directement deux GPU
Hopper vs Blackwell : questions
Blackwell vaut-il le coup par rapport à Hopper ?
Le B200 SXM offre 2.3 fois le calcul FP8 dense du H100 SXM pour 1.8 fois son prix horaire le plus bas actuel : il est donc 22 % moins cher par unité de calcul FP8. Il dispose aussi de 180 GB de mémoire contre 80 GB. Si votre logiciel utilise le FP8 ou le FP4 et exploite pleinement le GPU, c'est ce pour quoi vous payez ; si la disponibilité ou le FP64 comptent davantage, Hopper est le choix le plus sûr.
Que signifie la conception à deux puces de Blackwell ?
Le B200 réunit deux grandes puces par une liaison de 10 TB/s, de sorte que le logiciel voit un seul GPU. Cela permet de contourner la limite de taille d'une puce unique.
Combien Blackwell consomme-t-il de plus ?
Le B200 SXM est donné pour 1000 W, le H100 SXM pour 700 W. En location, l'électricité est comprise dans le prix horaire.
Le H200 est-il un GPU Blackwell ?
Non. Le H200 est un GPU Hopper doté d'une mémoire plus grande et plus rapide que celle du H100 (141 GB de HBM3e) ; sa puissance de calcul est identique.