…
A100 SXM 40GB vs A100 SXM 80GB
Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →
A100 SXM 40GB$0.54le plus bas à la demande par GPU·h
$1.71 par PFLOP·h · 8 fournisseursA100 SXM 80GB$0.81le plus bas à la demande par GPU·h
$2.60 par PFLOP·h · 17 fournisseursCe qui les distingue vraiment
- Le A100 SXM 40GB et le A100 SXM 80GB sont à égalité en débit FP16/BF16 dense (0.312 PF vs 0.312 PF).
- Le A100 SXM 80GB offre 1.3× plus de bande passante mémoire que le A100 SXM 40GB (1,555 vs 2,039 GB/s), ce qui limite généralement la génération de tokens des LLM. Mémoire : 40 GB vs 80 GB.
- Le A100 SXM 40GB est 34 % moins cher à l'heure que le A100 SXM 80GB aux prix à la demande les plus bas ($0.54 vs $0.81).
- Par unité de calcul, le A100 SXM 40GB est le plus avantageux : $1.71 vs $2.60 par PFLOP-heure en FP16/BF16 dense.
| Caractéristique / prix | A100 SXM 40GB | A100 SXM 80GB |
|---|---|---|
| Mémoire | 40 GB HBM2 | 80 GB HBM2emeilleur |
| Bande passante mémoire | 1,555 GB/s | 2,039 GB/smeilleur |
| FP16 / BF16 (dense) | 0.312 PF | 0.312 PF |
| FP8 (dense) | — | — |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.624 PF | 0.624 PF |
| TF32 (dense) | 0.156 PF | 0.156 PF |
| FP32 (dense) | 0.0195 PF | 0.0195 PF |
| FP64 (dense) | 0.0195 PF | 0.0195 PF |
| Consommation | 400 W | 400 W |
| Architecture | Ampere (2020) | Ampere (2020) |
| Le plus bas à la demande | $0.54meilleur | $0.81 |
| Médiane à la demande | $1.99meilleur | $2.35 |
| Le plus bas en spot | $0.55meilleur | $0.90 |
| FP16/BF16 $ par PFLOP·h | $1.71meilleur | $2.60 |
| Fournisseurs | 8 | 17 |
A100 SXM 40GB vs A100 SXM 80GB : questions
Le A100 SXM 40GB est-il plus rapide que le A100 SXM 80GB ?
Le A100 SXM 40GB et le A100 SXM 80GB sont à égalité en calcul FP16/BF16 dense. Le A100 SXM 80GB offre 1.3× plus de bande passante mémoire que le A100 SXM 40GB. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Lequel est le moins cher par FLOP, le A100 SXM 40GB ou le A100 SXM 80GB ?
Actuellement, le A100 SXM 40GB est le moins cher par unité de calcul : $1.71 vs $2.60 par PFLOP-heure aux prix à la demande les plus bas.
Combien coûte la location d'un A100 SXM 40GB vs un A100 SXM 80GB pendant un mois ?
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $391 par mois pour le A100 SXM 40GB et $591 pour le A100 SXM 80GB.
Lequel a le plus de mémoire, le A100 SXM 40GB ou le A100 SXM 80GB ?
Le A100 SXM 80GB a plus de mémoire : 80 GB vs 40 GB.