…
Cloud-Mietpreis, Rechenleistung pro Dollar und technische Daten im direkten Vergleich.
Im interaktiven Vergleich öffnen →| Daten / Preis | RTX 3090 | RTX 4090 |
|---|---|---|
| Speicher | 24 GB GDDR6X | 24 GB GDDR6X |
| Speicherbandbreite | 936 GB/s | 1,008 GB/sbesser |
| FP16 / BF16 (dense) | 0.071 PF | 0.165 PFbesser |
| FP8 (dense) | — | 0.33 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.284 PF | 0.661 PFbesser |
| TF32 (dense) | 0.0356 PF | 0.0826 PFbesser |
| FP32 (dense) | 0.0356 PF | 0.0826 PFbesser |
| FP64 (dense) | 0.0006 PF | 0.0013 PFbesser |
| Leistungsaufnahme | 350 W | 450 W |
| Architektur | Ampere (2020) | Ada Lovelace (2022) |
| Niedrigster On-Demand-Preis | $0.13besser | $0.29 |
| Median On-Demand | $0.17besser | $0.39 |
| Niedrigster Spot-Preis | — | $0.16 |
| FP16/BF16 $ pro PFLOP·h | $1.76besser | $1.78 |
| Anbieter | 2 | 6 |
Die RTX 4090 hat 2.3× mehr dichte FP16/BF16-Rechenleistung als die RTX 3090. Die RTX 4090 hat 1.1× mehr Speicherbandbreite als die RTX 3090. Der reale Geschwindigkeitsgewinn hängt von der Last ab: Training und Prefill skalieren mit der Rechenleistung, LLM-Decoding dagegen vor allem mit der Speicherbandbreite.
Derzeit ist die RTX 3090 pro Einheit Rechenleistung günstiger: $1.76 vs. $1.78 pro PFLOP-Stunde zu den niedrigsten On-Demand-Preisen.
Eine GPU rund um die Uhr zum niedrigsten On-Demand-Preis kostet etwa $91 pro Monat für die RTX 3090 und $215 für die RTX 4090.
Beide haben 24 GB VRAM; die RTX 4090 hat mehr Bandbreite.