…
L40S vs H100 PCIe
Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →
L40S$0.60le plus bas à la demande par GPU·h
$1.66 par PFLOP·h · 17 fournisseursH100 PCIe$1.98le plus bas à la demande par GPU·h
$2.62 par PFLOP·h · 6 fournisseursCe qui les distingue vraiment
- Le H100 PCIe offre 2.1× plus de débit FP16/BF16 dense que le L40S (0.362 PF vs 0.756 PF).
- Le H100 PCIe offre 2.3× plus de bande passante mémoire que le L40S (864 vs 2,000 GB/s), ce qui limite généralement la génération de tokens des LLM. Mémoire : 48 GB vs 80 GB.
- Le L40S est 70 % moins cher à l'heure que le H100 PCIe aux prix à la demande les plus bas ($0.60 vs $1.98).
- Par unité de calcul, le L40S est le plus avantageux : $1.66 vs $2.62 par PFLOP-heure en FP16/BF16 dense.
| Caractéristique / prix | L40S | H100 PCIe |
|---|---|---|
| Mémoire | 48 GB GDDR6 | 80 GB HBM2emeilleur |
| Bande passante mémoire | 864 GB/s | 2,000 GB/smeilleur |
| FP16 / BF16 (dense) | 0.362 PF | 0.756 PFmeilleur |
| FP8 (dense) | 0.733 PF | 1.51 PFmeilleur |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.733 PF | 1.51 PFmeilleur |
| TF32 (dense) | 0.183 PF | 0.378 PFmeilleur |
| FP32 (dense) | 0.0916 PFmeilleur | 0.051 PF |
| FP64 (dense) | 0.0014 PF | 0.051 PFmeilleur |
| Consommation | 350 W | 350 W |
| Architecture | Ada Lovelace (2023) | Hopper (2022) |
| Le plus bas à la demande | $0.60meilleur | $1.98 |
| Médiane à la demande | $1.50meilleur | $2.75 |
| Le plus bas en spot | $0.38meilleur | $2.00 |
| FP16/BF16 $ par PFLOP·h | $1.66meilleur | $2.62 |
| Fournisseurs | 17 | 6 |
L40S vs H100 PCIe : questions
Le L40S est-il plus rapide que le H100 PCIe ?
Le H100 PCIe offre 2.1× plus de calcul FP16/BF16 dense que le L40S. Le H100 PCIe offre 2.3× plus de bande passante mémoire que le L40S. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Lequel est le moins cher par FLOP, le L40S ou le H100 PCIe ?
Actuellement, le L40S est le moins cher par unité de calcul : $1.66 vs $2.62 par PFLOP-heure aux prix à la demande les plus bas.
Combien coûte la location d'un L40S vs un H100 PCIe pendant un mois ?
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $440 par mois pour le L40S et $1,445 pour le H100 PCIe.
Lequel a le plus de mémoire, le L40S ou le H100 PCIe ?
Le H100 PCIe a plus de mémoire : 80 GB vs 48 GB.