…
L40S vs RTX 6000 Ada
Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →
L40S$0.60le plus bas à la demande par GPU·h
$1.66 par PFLOP·h · 17 fournisseursRTX 6000 Ada$0.60le plus bas à la demande par GPU·h
$1.65 par PFLOP·h · 6 fournisseursCe qui les distingue vraiment
- Le L40S et le RTX 6000 Ada sont à égalité en débit FP16/BF16 dense (0.362 PF vs 0.364 PF).
- Le RTX 6000 Ada offre 1.1× plus de bande passante mémoire que le L40S (864 vs 960 GB/s), ce qui limite généralement la génération de tokens des LLM. Mémoire : 48 GB vs 48 GB.
- Les deux coûtent à peu près autant à l'heure aux prix à la demande les plus bas ($0.60 vs $0.60).
- Par unité de calcul, le RTX 6000 Ada est le plus avantageux : $1.65 vs $1.66 par PFLOP-heure en FP16/BF16 dense.
| Caractéristique / prix | L40S | RTX 6000 Ada |
|---|---|---|
| Mémoire | 48 GB GDDR6 | 48 GB GDDR6 |
| Bande passante mémoire | 864 GB/s | 960 GB/smeilleur |
| FP16 / BF16 (dense) | 0.362 PF | 0.364 PFmeilleur |
| FP8 (dense) | 0.733 PFmeilleur | 0.729 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.733 PFmeilleur | 0.729 PF |
| TF32 (dense) | 0.183 PFmeilleur | 0.182 PF |
| FP32 (dense) | 0.0916 PFmeilleur | 0.0911 PF |
| FP64 (dense) | 0.0014 PF | 0.0014 PF |
| Consommation | 350 W | 300 W |
| Architecture | Ada Lovelace (2023) | Ada Lovelace (2022) |
| Le plus bas à la demande | $0.60 | $0.60meilleur |
| Médiane à la demande | $1.50 | $0.86meilleur |
| Le plus bas en spot | $0.38meilleur | $0.58 |
| FP16/BF16 $ par PFLOP·h | $1.66 | $1.65meilleur |
| Fournisseurs | 17 | 6 |
L40S vs RTX 6000 Ada : questions
Le L40S est-il plus rapide que le RTX 6000 Ada ?
Le L40S et le RTX 6000 Ada sont à égalité en calcul FP16/BF16 dense. Le RTX 6000 Ada offre 1.1× plus de bande passante mémoire que le L40S. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Lequel est le moins cher par FLOP, le L40S ou le RTX 6000 Ada ?
Actuellement, le RTX 6000 Ada est le moins cher par unité de calcul : $1.65 vs $1.66 par PFLOP-heure aux prix à la demande les plus bas.
Combien coûte la location d'un L40S vs un RTX 6000 Ada pendant un mois ?
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $440 par mois pour le L40S et $438 pour le RTX 6000 Ada.
Lequel a le plus de mémoire, le L40S ou le RTX 6000 Ada ?
Les deux ont 48 GB de VRAM ; le RTX 6000 Ada dispose de plus de bande passante.