…
A100 SXM 80GB vs A100 PCIe 80GB
Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →
A100 SXM 80GB$0.81le plus bas à la demande par GPU·h
$2.60 par PFLOP·h · 17 fournisseursA100 PCIe 80GB$1.13le plus bas à la demande par GPU·h
$3.62 par PFLOP·h · 8 fournisseursCe qui les distingue vraiment
- Le A100 SXM 80GB et le A100 PCIe 80GB sont à égalité en débit FP16/BF16 dense (0.312 PF vs 0.312 PF).
- Le A100 SXM 80GB offre 1.1× plus de bande passante mémoire que le A100 PCIe 80GB (2,039 vs 1,935 GB/s), ce qui limite généralement la génération de tokens des LLM. Mémoire : 80 GB vs 80 GB.
- Le A100 SXM 80GB est 28 % moins cher à l'heure que le A100 PCIe 80GB aux prix à la demande les plus bas ($0.81 vs $1.13).
- Par unité de calcul, le A100 SXM 80GB est le plus avantageux : $2.60 vs $3.62 par PFLOP-heure en FP16/BF16 dense.
| Caractéristique / prix | A100 SXM 80GB | A100 PCIe 80GB |
|---|---|---|
| Mémoire | 80 GB HBM2e | 80 GB HBM2e |
| Bande passante mémoire | 2,039 GB/smeilleur | 1,935 GB/s |
| FP16 / BF16 (dense) | 0.312 PF | 0.312 PF |
| FP8 (dense) | — | — |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.624 PF | 0.624 PF |
| TF32 (dense) | 0.156 PF | 0.156 PF |
| FP32 (dense) | 0.0195 PF | 0.0195 PF |
| FP64 (dense) | 0.0195 PF | 0.0195 PF |
| Consommation | 400 W | 300 W |
| Architecture | Ampere (2020) | Ampere (2021) |
| Le plus bas à la demande | $0.81meilleur | $1.13 |
| Médiane à la demande | $2.35 | $1.51meilleur |
| Le plus bas en spot | $0.90 | $0.21meilleur |
| FP16/BF16 $ par PFLOP·h | $2.60meilleur | $3.62 |
| Fournisseurs | 17 | 8 |
A100 SXM 80GB vs A100 PCIe 80GB : questions
Le A100 SXM 80GB est-il plus rapide que le A100 PCIe 80GB ?
Le A100 SXM 80GB et le A100 PCIe 80GB sont à égalité en calcul FP16/BF16 dense. Le A100 SXM 80GB offre 1.1× plus de bande passante mémoire que le A100 PCIe 80GB. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Lequel est le moins cher par FLOP, le A100 SXM 80GB ou le A100 PCIe 80GB ?
Actuellement, le A100 SXM 80GB est le moins cher par unité de calcul : $2.60 vs $3.62 par PFLOP-heure aux prix à la demande les plus bas.
Combien coûte la location d'un A100 SXM 80GB vs un A100 PCIe 80GB pendant un mois ?
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $591 par mois pour le A100 SXM 80GB et $824 pour le A100 PCIe 80GB.
Lequel a le plus de mémoire, le A100 SXM 80GB ou le A100 PCIe 80GB ?
Les deux ont 80 GB de VRAM ; le A100 SXM 80GB dispose de plus de bande passante.