…
A100 SXM 80GB vs A100 PCIe 80GB
Prezzo di noleggio cloud, capacità di calcolo per dollaro e specifiche a confronto.
Apri nel comparatore interattivo →
A100 SXM 80GB$0.81on demand più basso per GPU·h
$2.60 per PFLOP·h · 17 providerA100 PCIe 80GB$1.13on demand più basso per GPU·h
$3.62 per PFLOP·h · 8 providerCosa cambia davvero
- A100 SXM 80GB e A100 PCIe 80GB hanno throughput FP16/BF16 denso equivalente (0.312 PF vs 0.312 PF).
- La A100 SXM 80GB ha banda di memoria 1.1× superiore alla A100 PCIe 80GB (2,039 vs 1,935 GB/s), che di solito limita la generazione di token degli LLM. Memoria: 80 GB vs 80 GB.
- La A100 SXM 80GB costa il 28% in meno all'ora rispetto alla A100 PCIe 80GB ai prezzi on demand più bassi ($0.81 vs $1.13).
- Per unità di calcolo, la A100 SXM 80GB è l'affare migliore: $2.60 vs $3.62 per PFLOP-ora in FP16/BF16 denso.
| Specifica / prezzo | A100 SXM 80GB | A100 PCIe 80GB |
|---|---|---|
| Memoria | 80 GB HBM2e | 80 GB HBM2e |
| Banda di memoria | 2,039 GB/smigliore | 1,935 GB/s |
| FP16 / BF16 (denso) | 0.312 PF | 0.312 PF |
| FP8 (denso) | — | — |
| FP4 (denso) | — | — |
| INT8 (denso) | 0.624 PF | 0.624 PF |
| TF32 (denso) | 0.156 PF | 0.156 PF |
| FP32 (denso) | 0.0195 PF | 0.0195 PF |
| FP64 (denso) | 0.0195 PF | 0.0195 PF |
| Potenza | 400 W | 300 W |
| Architettura | Ampere (2020) | Ampere (2021) |
| On demand più basso | $0.81migliore | $1.13 |
| Mediana on demand | $2.35 | $1.51migliore |
| Spot più basso | $0.90 | $0.21migliore |
| FP16/BF16 $ per PFLOP·h | $2.60migliore | $3.62 |
| Provider | 17 | 8 |
A100 SXM 80GB vs A100 PCIe 80GB: domande
La A100 SXM 80GB è più veloce della A100 PCIe 80GB?
A100 SXM 80GB e A100 PCIe 80GB hanno calcolo FP16/BF16 denso equivalente. La A100 SXM 80GB ha banda di memoria 1.1× superiore alla A100 PCIe 80GB. Gli incrementi di velocità reali dipendono dal carico di lavoro: training e prefill scalano con la capacità di calcolo, mentre il decoding degli LLM scala soprattutto con la banda di memoria.
Quale costa meno per FLOP, la A100 SXM 80GB o la A100 PCIe 80GB?
In questo momento la A100 SXM 80GB costa meno per unità di calcolo: $2.60 vs $3.62 per PFLOP-ora ai prezzi on demand più bassi.
Quanto costa noleggiare una A100 SXM 80GB rispetto a una A100 PCIe 80GB per un mese?
Far girare una GPU 24 ore su 24 al prezzo on demand più basso costa circa $591 al mese per la A100 SXM 80GB e $824 per la A100 PCIe 80GB.
Quale ha più memoria, la A100 SXM 80GB o la A100 PCIe 80GB?
Entrambe hanno 80 GB di VRAM; la A100 SXM 80GB ha più banda.