…
L40S vs RTX 6000 Ada
Precio de alquiler en la nube, cómputo por dólar y especificaciones, lado a lado.
Abrir en el comparador interactivo →
L40S$0.60mínimo bajo demanda por GPU·h
$1.66 por PFLOP·h · 17 proveedoresRTX 6000 Ada$0.60mínimo bajo demanda por GPU·h
$1.65 por PFLOP·h · 6 proveedoresQué las diferencia realmente
- La L40S y la RTX 6000 Ada tienen el mismo rendimiento FP16/BF16 denso (0.362 PF vs 0.364 PF).
- La RTX 6000 Ada tiene 1.1× más ancho de banda de memoria que la L40S (864 vs 960 GB/s), lo que suele limitar la generación de tokens en LLM. Memoria: 48 GB vs 48 GB.
- Ambas cuestan aproximadamente lo mismo por hora con los precios bajo demanda más bajos ($0.60 vs $0.60).
- Por unidad de cómputo, la RTX 6000 Ada es la mejor opción: $1.65 vs $1.66 por PFLOP-hora de FP16/BF16 denso.
| Especificación / precio | L40S | RTX 6000 Ada |
|---|---|---|
| Memoria | 48 GB GDDR6 | 48 GB GDDR6 |
| Ancho de banda de memoria | 864 GB/s | 960 GB/smejor |
| FP16 / BF16 (denso) | 0.362 PF | 0.364 PFmejor |
| FP8 (denso) | 0.733 PFmejor | 0.729 PF |
| FP4 (denso) | — | — |
| INT8 (denso) | 0.733 PFmejor | 0.729 PF |
| TF32 (denso) | 0.183 PFmejor | 0.182 PF |
| FP32 (denso) | 0.0916 PFmejor | 0.0911 PF |
| FP64 (denso) | 0.0014 PF | 0.0014 PF |
| Consumo | 350 W | 300 W |
| Arquitectura | Ada Lovelace (2023) | Ada Lovelace (2022) |
| Mínimo bajo demanda | $0.60 | $0.60mejor |
| Mediana bajo demanda | $1.50 | $0.86mejor |
| Mínimo spot | $0.38mejor | $0.58 |
| FP16/BF16 $ por PFLOP·h | $1.66 | $1.65mejor |
| Proveedores | 17 | 6 |
L40S vs RTX 6000 Ada: preguntas
¿Es la L40S más rápida que la RTX 6000 Ada?
La L40S y la RTX 6000 Ada tienen el mismo cómputo FP16/BF16 denso. La RTX 6000 Ada tiene 1.1× más ancho de banda de memoria que la L40S. La aceleración real depende de la carga de trabajo: el entrenamiento y el prefill escalan con el cómputo, mientras que la decodificación de LLM escala sobre todo con el ancho de banda de memoria.
¿Cuál es más barata por FLOP, la L40S o la RTX 6000 Ada?
Ahora mismo la RTX 6000 Ada es más barata por unidad de cómputo: $1.65 vs $1.66 por PFLOP-hora con los precios bajo demanda más bajos.
¿Cuánto cuesta alquilar una L40S frente a una RTX 6000 Ada durante un mes?
Mantener una GPU funcionando las 24 horas al precio bajo demanda más bajo cuesta unos $440 al mes con la L40S y $438 con la RTX 6000 Ada.
¿Cuál tiene más memoria, la L40S o la RTX 6000 Ada?
Ambas tienen 48 GB de VRAM; la RTX 6000 Ada tiene más ancho de banda.