Precio de alquiler en la nube, cómputo por dólar y especificaciones, lado a lado.
Abrir en el comparador interactivo →| Especificación / precio | RTX A6000 | RTX 6000 Ada |
|---|---|---|
| Memoria | 48 GB GDDR6 | 48 GB GDDR6 |
| Ancho de banda de memoria | 768 GB/s | 960 GB/smejor |
| FP16 / BF16 (denso) | 0.155 PF | 0.364 PFmejor |
| FP8 (denso) | — | 0.729 PF |
| FP4 (denso) | — | — |
| INT8 (denso) | 0.31 PF | 0.729 PFmejor |
| TF32 (denso) | 0.0774 PF | 0.182 PFmejor |
| FP32 (denso) | 0.0387 PF | 0.0911 PFmejor |
| FP64 (denso) | 0.0006 PF | 0.0014 PFmejor |
| Consumo | 300 W | 300 W |
| Arquitectura | Ampere (2020) | Ada Lovelace (2022) |
| Mínimo bajo demanda | $0.33mejor | $0.60 |
| Mediana bajo demanda | $0.56mejor | $0.86 |
| Mínimo spot | $0.32mejor | $0.58 |
| FP16/BF16 $ por PFLOP·h | $2.13 | $1.65mejor |
| Proveedores | 11 | 6 |
La RTX 6000 Ada tiene 2.4× más cómputo FP16/BF16 denso que la RTX A6000. La RTX 6000 Ada tiene 1.3× más ancho de banda de memoria que la RTX A6000. La aceleración real depende de la carga de trabajo: el entrenamiento y el prefill escalan con el cómputo, mientras que la decodificación de LLM escala sobre todo con el ancho de banda de memoria.
Ahora mismo la RTX 6000 Ada es más barata por unidad de cómputo: $1.65 vs $2.13 por PFLOP-hora con los precios bajo demanda más bajos.
Mantener una GPU funcionando las 24 horas al precio bajo demanda más bajo cuesta unos $241 al mes con la RTX A6000 y $438 con la RTX 6000 Ada.
Ambas tienen 48 GB de VRAM; la RTX 6000 Ada tiene más ancho de banda.