Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →| Caractéristique / prix | RTX 3090 | RTX 4090 |
|---|---|---|
| Mémoire | 24 GB GDDR6X | 24 GB GDDR6X |
| Bande passante mémoire | 936 GB/s | 1,008 GB/smeilleur |
| FP16 / BF16 (dense) | 0.071 PF | 0.165 PFmeilleur |
| FP8 (dense) | — | 0.33 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.284 PF | 0.661 PFmeilleur |
| TF32 (dense) | 0.0356 PF | 0.0826 PFmeilleur |
| FP32 (dense) | 0.0356 PF | 0.0826 PFmeilleur |
| FP64 (dense) | 0.0006 PF | 0.0013 PFmeilleur |
| Consommation | 350 W | 450 W |
| Architecture | Ampere (2020) | Ada Lovelace (2022) |
| Le plus bas à la demande | $0.13meilleur | $0.29 |
| Médiane à la demande | $0.17meilleur | $0.39 |
| Le plus bas en spot | — | $0.16 |
| FP16/BF16 $ par PFLOP·h | $1.76meilleur | $1.78 |
| Fournisseurs | 2 | 6 |
Le RTX 4090 offre 2.3× plus de calcul FP16/BF16 dense que le RTX 3090. Le RTX 4090 offre 1.1× plus de bande passante mémoire que le RTX 3090. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Actuellement, le RTX 3090 est le moins cher par unité de calcul : $1.76 vs $1.78 par PFLOP-heure aux prix à la demande les plus bas.
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $91 par mois pour le RTX 3090 et $215 pour le RTX 4090.
Les deux ont 24 GB de VRAM ; le RTX 4090 dispose de plus de bande passante.