…
V100 SXM2 32GB vs A100 SXM 40GB
Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →
V100 SXM2 32GB$0.15le plus bas à la demande par GPU·h
$1.19 par PFLOP·h · 2 fournisseursA100 SXM 40GB$0.54le plus bas à la demande par GPU·h
$1.71 par PFLOP·h · 8 fournisseursCe qui les distingue vraiment
- Le A100 SXM 40GB offre 2.5× plus de débit FP16/BF16 dense que le V100 SXM2 32GB (0.125 PF vs 0.312 PF).
- Le A100 SXM 40GB offre 1.7× plus de bande passante mémoire que le V100 SXM2 32GB (900 vs 1,555 GB/s), ce qui limite généralement la génération de tokens des LLM. Mémoire : 32 GB vs 40 GB.
- Le V100 SXM2 32GB est 72 % moins cher à l'heure que le A100 SXM 40GB aux prix à la demande les plus bas ($0.15 vs $0.54).
- Par unité de calcul, le V100 SXM2 32GB est le plus avantageux : $1.19 vs $1.71 par PFLOP-heure en FP16/BF16 dense.
| Caractéristique / prix | V100 SXM2 32GB | A100 SXM 40GB |
|---|---|---|
| Mémoire | 32 GB HBM2 | 40 GB HBM2meilleur |
| Bande passante mémoire | 900 GB/s | 1,555 GB/smeilleur |
| FP16 / BF16 (dense) | 0.125 PF | 0.312 PFmeilleur |
| FP8 (dense) | — | — |
| FP4 (dense) | — | — |
| INT8 (dense) | — | 0.624 PF |
| TF32 (dense) | — | 0.156 PF |
| FP32 (dense) | 0.0157 PF | 0.0195 PFmeilleur |
| FP64 (dense) | 0.0078 PF | 0.0195 PFmeilleur |
| Consommation | 300 W | 400 W |
| Architecture | Volta (2018) | Ampere (2020) |
| Le plus bas à la demande | $0.15meilleur | $0.54 |
| Médiane à la demande | $2.03 | $1.99meilleur |
| Le plus bas en spot | $0.42meilleur | $0.55 |
| FP16/BF16 $ par PFLOP·h | $1.19meilleur | $1.71 |
| Fournisseurs | 2 | 8 |
V100 SXM2 32GB vs A100 SXM 40GB : questions
Le V100 SXM2 32GB est-il plus rapide que le A100 SXM 40GB ?
Le A100 SXM 40GB offre 2.5× plus de calcul FP16/BF16 dense que le V100 SXM2 32GB. Le A100 SXM 40GB offre 1.7× plus de bande passante mémoire que le V100 SXM2 32GB. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Lequel est le moins cher par FLOP, le V100 SXM2 32GB ou le A100 SXM 40GB ?
Actuellement, le V100 SXM2 32GB est le moins cher par unité de calcul : $1.19 vs $1.71 par PFLOP-heure aux prix à la demande les plus bas.
Combien coûte la location d'un V100 SXM2 32GB vs un A100 SXM 40GB pendant un mois ?
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $109 par mois pour le V100 SXM2 32GB et $391 pour le A100 SXM 40GB.
Lequel a le plus de mémoire, le V100 SXM2 32GB ou le A100 SXM 40GB ?
Le A100 SXM 40GB a plus de mémoire : 40 GB vs 32 GB.