Cloud-Mietpreis, Rechenleistung pro Dollar und technische Daten im direkten Vergleich.
Im interaktiven Vergleich öffnen →| Daten / Preis | A100 SXM 80GB | A100 PCIe 80GB |
|---|---|---|
| Speicher | 80 GB HBM2e | 80 GB HBM2e |
| Speicherbandbreite | 2,039 GB/sbesser | 1,935 GB/s |
| FP16 / BF16 (dense) | 0.312 PF | 0.312 PF |
| FP8 (dense) | — | — |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.624 PF | 0.624 PF |
| TF32 (dense) | 0.156 PF | 0.156 PF |
| FP32 (dense) | 0.0195 PF | 0.0195 PF |
| FP64 (dense) | 0.0195 PF | 0.0195 PF |
| Leistungsaufnahme | 400 W | 300 W |
| Architektur | Ampere (2020) | Ampere (2021) |
| Niedrigster On-Demand-Preis | $0.81besser | $1.13 |
| Median On-Demand | $2.35 | $1.43besser |
| Niedrigster Spot-Preis | $0.90 | $0.68besser |
| FP16/BF16 $ pro PFLOP·h | $2.58besser | $3.62 |
| Anbieter | 17 | 6 |
Die A100 SXM 80GB und die A100 PCIe 80GB haben gleich viel dichte FP16/BF16-Rechenleistung. Die A100 SXM 80GB hat 1.1× mehr Speicherbandbreite als die A100 PCIe 80GB. Der reale Geschwindigkeitsgewinn hängt von der Last ab: Training und Prefill skalieren mit der Rechenleistung, LLM-Decoding dagegen vor allem mit der Speicherbandbreite.
Derzeit ist die A100 SXM 80GB pro Einheit Rechenleistung günstiger: $2.58 vs. $3.62 pro PFLOP-Stunde zu den niedrigsten On-Demand-Preisen.
Eine GPU rund um die Uhr zum niedrigsten On-Demand-Preis kostet etwa $588 pro Monat für die A100 SXM 80GB und $824 für die A100 PCIe 80GB.
Beide haben 80 GB VRAM; die A100 SXM 80GB hat mehr Bandbreite.