Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →| Caractéristique / prix | RTX A6000 | RTX 6000 Ada |
|---|---|---|
| Mémoire | 48 GB GDDR6 | 48 GB GDDR6 |
| Bande passante mémoire | 768 GB/s | 960 GB/smeilleur |
| FP16 / BF16 (dense) | 0.155 PF | 0.364 PFmeilleur |
| FP8 (dense) | — | 0.729 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.31 PF | 0.729 PFmeilleur |
| TF32 (dense) | 0.0774 PF | 0.182 PFmeilleur |
| FP32 (dense) | 0.0387 PF | 0.0911 PFmeilleur |
| FP64 (dense) | 0.0006 PF | 0.0014 PFmeilleur |
| Consommation | 300 W | 300 W |
| Architecture | Ampere (2020) | Ada Lovelace (2022) |
| Le plus bas à la demande | $0.33meilleur | $0.60 |
| Médiane à la demande | $0.56meilleur | $0.86 |
| Le plus bas en spot | $0.32meilleur | $0.58 |
| FP16/BF16 $ par PFLOP·h | $2.13 | $1.65meilleur |
| Fournisseurs | 11 | 6 |
Le RTX 6000 Ada offre 2.4× plus de calcul FP16/BF16 dense que le RTX A6000. Le RTX 6000 Ada offre 1.3× plus de bande passante mémoire que le RTX A6000. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Actuellement, le RTX 6000 Ada est le moins cher par unité de calcul : $1.65 vs $2.13 par PFLOP-heure aux prix à la demande les plus bas.
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $241 par mois pour le RTX A6000 et $438 pour le RTX 6000 Ada.
Les deux ont 48 GB de VRAM ; le RTX 6000 Ada dispose de plus de bande passante.