…
Precio de alquiler en la nube, cómputo por dólar y especificaciones, lado a lado.
Abrir en el comparador interactivo →| Especificación / precio | RTX 3090 | RTX 4090 |
|---|---|---|
| Memoria | 24 GB GDDR6X | 24 GB GDDR6X |
| Ancho de banda de memoria | 936 GB/s | 1,008 GB/smejor |
| FP16 / BF16 (denso) | 0.071 PF | 0.165 PFmejor |
| FP8 (denso) | — | 0.33 PF |
| FP4 (denso) | — | — |
| INT8 (denso) | 0.284 PF | 0.661 PFmejor |
| TF32 (denso) | 0.0356 PF | 0.0826 PFmejor |
| FP32 (denso) | 0.0356 PF | 0.0826 PFmejor |
| FP64 (denso) | 0.0006 PF | 0.0013 PFmejor |
| Consumo | 350 W | 450 W |
| Arquitectura | Ampere (2020) | Ada Lovelace (2022) |
| Mínimo bajo demanda | $0.13mejor | $0.29 |
| Mediana bajo demanda | $0.17mejor | $0.39 |
| Mínimo spot | — | $0.16 |
| FP16/BF16 $ por PFLOP·h | $1.76mejor | $1.78 |
| Proveedores | 2 | 6 |
La RTX 4090 tiene 2.3× más cómputo FP16/BF16 denso que la RTX 3090. La RTX 4090 tiene 1.1× más ancho de banda de memoria que la RTX 3090. La aceleración real depende de la carga de trabajo: el entrenamiento y el prefill escalan con el cómputo, mientras que la decodificación de LLM escala sobre todo con el ancho de banda de memoria.
Ahora mismo la RTX 3090 es más barata por unidad de cómputo: $1.76 vs $1.78 por PFLOP-hora con los precios bajo demanda más bajos.
Mantener una GPU funcionando las 24 horas al precio bajo demanda más bajo cuesta unos $91 al mes con la RTX 3090 y $215 con la RTX 4090.
Ambas tienen 24 GB de VRAM; la RTX 4090 tiene más ancho de banda.