…
Prezzo di noleggio cloud, capacità di calcolo per dollaro e specifiche a confronto.
Apri nel comparatore interattivo →| Specifica / prezzo | RTX A6000 | RTX 6000 Ada |
|---|---|---|
| Memoria | 48 GB GDDR6 | 48 GB GDDR6 |
| Banda di memoria | 768 GB/s | 960 GB/smigliore |
| FP16 / BF16 (denso) | 0.155 PF | 0.364 PFmigliore |
| FP8 (denso) | — | 0.729 PF |
| FP4 (denso) | — | — |
| INT8 (denso) | 0.31 PF | 0.729 PFmigliore |
| TF32 (denso) | 0.0774 PF | 0.182 PFmigliore |
| FP32 (denso) | 0.0387 PF | 0.0911 PFmigliore |
| FP64 (denso) | 0.0006 PF | 0.0014 PFmigliore |
| Potenza | 300 W | 300 W |
| Architettura | Ampere (2020) | Ada Lovelace (2022) |
| On demand più basso | $0.33migliore | $0.60 |
| Mediana on demand | $0.56migliore | $0.86 |
| Spot più basso | $0.32migliore | $0.58 |
| FP16/BF16 $ per PFLOP·h | $2.13 | $1.65migliore |
| Provider | 11 | 6 |
La RTX 6000 Ada ha calcolo FP16/BF16 denso 2.4× superiore alla RTX A6000. La RTX 6000 Ada ha banda di memoria 1.3× superiore alla RTX A6000. Gli incrementi di velocità reali dipendono dal carico di lavoro: training e prefill scalano con la capacità di calcolo, mentre il decoding degli LLM scala soprattutto con la banda di memoria.
In questo momento la RTX 6000 Ada costa meno per unità di calcolo: $1.65 vs $2.13 per PFLOP-ora ai prezzi on demand più bassi.
Far girare una GPU 24 ore su 24 al prezzo on demand più basso costa circa $241 al mese per la RTX A6000 e $438 per la RTX 6000 Ada.
Entrambe hanno 48 GB di VRAM; la RTX 6000 Ada ha più banda.