…
L40S vs A100 SXM 80GB
Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →
L40S$0.60le plus bas à la demande par GPU·h
$1.66 par PFLOP·h · 17 fournisseursA100 SXM 80GB$0.81le plus bas à la demande par GPU·h
$2.60 par PFLOP·h · 17 fournisseursCe qui les distingue vraiment
- Le L40S offre 1.2× plus de débit FP16/BF16 dense que le A100 SXM 80GB (0.362 PF vs 0.312 PF).
- Le A100 SXM 80GB offre 2.4× plus de bande passante mémoire que le L40S (864 vs 2,039 GB/s), ce qui limite généralement la génération de tokens des LLM. Mémoire : 48 GB vs 80 GB.
- Seul le L40S dispose de tensor cores FP8 natifs.
- Le L40S est 26 % moins cher à l'heure que le A100 SXM 80GB aux prix à la demande les plus bas ($0.60 vs $0.81).
- Par unité de calcul, le L40S est le plus avantageux : $1.66 vs $2.60 par PFLOP-heure en FP16/BF16 dense.
| Caractéristique / prix | L40S | A100 SXM 80GB |
|---|---|---|
| Mémoire | 48 GB GDDR6 | 80 GB HBM2emeilleur |
| Bande passante mémoire | 864 GB/s | 2,039 GB/smeilleur |
| FP16 / BF16 (dense) | 0.362 PFmeilleur | 0.312 PF |
| FP8 (dense) | 0.733 PF | — |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.733 PFmeilleur | 0.624 PF |
| TF32 (dense) | 0.183 PFmeilleur | 0.156 PF |
| FP32 (dense) | 0.0916 PFmeilleur | 0.0195 PF |
| FP64 (dense) | 0.0014 PF | 0.0195 PFmeilleur |
| Consommation | 350 W | 400 W |
| Architecture | Ada Lovelace (2023) | Ampere (2020) |
| Le plus bas à la demande | $0.60meilleur | $0.81 |
| Médiane à la demande | $1.50meilleur | $2.35 |
| Le plus bas en spot | $0.38meilleur | $0.90 |
| FP16/BF16 $ par PFLOP·h | $1.66meilleur | $2.60 |
| Fournisseurs | 17 | 17 |
L40S vs A100 SXM 80GB : questions
Le L40S est-il plus rapide que le A100 SXM 80GB ?
Le L40S offre 1.2× plus de calcul FP16/BF16 dense que le A100 SXM 80GB. Le A100 SXM 80GB offre 2.4× plus de bande passante mémoire que le L40S. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Lequel est le moins cher par FLOP, le L40S ou le A100 SXM 80GB ?
Actuellement, le L40S est le moins cher par unité de calcul : $1.66 vs $2.60 par PFLOP-heure aux prix à la demande les plus bas.
Combien coûte la location d'un L40S vs un A100 SXM 80GB pendant un mois ?
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $440 par mois pour le L40S et $591 pour le A100 SXM 80GB.
Lequel a le plus de mémoire, le L40S ou le A100 SXM 80GB ?
Le A100 SXM 80GB a plus de mémoire : 80 GB vs 48 GB.