…
Prezzo di noleggio cloud, capacità di calcolo per dollaro e specifiche a confronto.
Apri nel comparatore interattivo →| Specifica / prezzo | RTX 3090 | RTX 4090 |
|---|---|---|
| Memoria | 24 GB GDDR6X | 24 GB GDDR6X |
| Banda di memoria | 936 GB/s | 1,008 GB/smigliore |
| FP16 / BF16 (denso) | 0.071 PF | 0.165 PFmigliore |
| FP8 (denso) | — | 0.33 PF |
| FP4 (denso) | — | — |
| INT8 (denso) | 0.284 PF | 0.661 PFmigliore |
| TF32 (denso) | 0.0356 PF | 0.0826 PFmigliore |
| FP32 (denso) | 0.0356 PF | 0.0826 PFmigliore |
| FP64 (denso) | 0.0006 PF | 0.0013 PFmigliore |
| Potenza | 350 W | 450 W |
| Architettura | Ampere (2020) | Ada Lovelace (2022) |
| On demand più basso | $0.13migliore | $0.29 |
| Mediana on demand | $0.17migliore | $0.39 |
| Spot più basso | — | $0.16 |
| FP16/BF16 $ per PFLOP·h | $1.76migliore | $1.78 |
| Provider | 2 | 6 |
La RTX 4090 ha calcolo FP16/BF16 denso 2.3× superiore alla RTX 3090. La RTX 4090 ha banda di memoria 1.1× superiore alla RTX 3090. Gli incrementi di velocità reali dipendono dal carico di lavoro: training e prefill scalano con la capacità di calcolo, mentre il decoding degli LLM scala soprattutto con la banda di memoria.
In questo momento la RTX 3090 costa meno per unità di calcolo: $1.76 vs $1.78 per PFLOP-ora ai prezzi on demand più bassi.
Far girare una GPU 24 ore su 24 al prezzo on demand più basso costa circa $91 al mese per la RTX 3090 e $215 per la RTX 4090.
Entrambe hanno 24 GB di VRAM; la RTX 4090 ha più banda.