…
Cloud-Mietpreis, Rechenleistung pro Dollar und technische Daten im direkten Vergleich.
Im interaktiven Vergleich öffnen →| Daten / Preis | RTX A6000 | RTX 6000 Ada |
|---|---|---|
| Speicher | 48 GB GDDR6 | 48 GB GDDR6 |
| Speicherbandbreite | 768 GB/s | 960 GB/sbesser |
| FP16 / BF16 (dense) | 0.155 PF | 0.364 PFbesser |
| FP8 (dense) | — | 0.729 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.31 PF | 0.729 PFbesser |
| TF32 (dense) | 0.0774 PF | 0.182 PFbesser |
| FP32 (dense) | 0.0387 PF | 0.0911 PFbesser |
| FP64 (dense) | 0.0006 PF | 0.0014 PFbesser |
| Leistungsaufnahme | 300 W | 300 W |
| Architektur | Ampere (2020) | Ada Lovelace (2022) |
| Niedrigster On-Demand-Preis | $0.33besser | $0.60 |
| Median On-Demand | $0.56besser | $0.86 |
| Niedrigster Spot-Preis | $0.32besser | $0.58 |
| FP16/BF16 $ pro PFLOP·h | $2.13 | $1.65besser |
| Anbieter | 11 | 6 |
Die RTX 6000 Ada hat 2.4× mehr dichte FP16/BF16-Rechenleistung als die RTX A6000. Die RTX 6000 Ada hat 1.3× mehr Speicherbandbreite als die RTX A6000. Der reale Geschwindigkeitsgewinn hängt von der Last ab: Training und Prefill skalieren mit der Rechenleistung, LLM-Decoding dagegen vor allem mit der Speicherbandbreite.
Derzeit ist die RTX 6000 Ada pro Einheit Rechenleistung günstiger: $1.65 vs. $2.13 pro PFLOP-Stunde zu den niedrigsten On-Demand-Preisen.
Eine GPU rund um die Uhr zum niedrigsten On-Demand-Preis kostet etwa $241 pro Monat für die RTX A6000 und $438 für die RTX 6000 Ada.
Beide haben 48 GB VRAM; die RTX 6000 Ada hat mehr Bandbreite.