…
L40S vs H100 PCIe
Prezzo di noleggio cloud, capacità di calcolo per dollaro e specifiche a confronto.
Apri nel comparatore interattivo →
L40S$0.60on demand più basso per GPU·h
$1.66 per PFLOP·h · 17 providerH100 PCIe$1.98on demand più basso per GPU·h
$2.62 per PFLOP·h · 6 providerCosa cambia davvero
- La H100 PCIe ha throughput FP16/BF16 denso 2.1× superiore alla L40S (0.362 PF vs 0.756 PF).
- La H100 PCIe ha banda di memoria 2.3× superiore alla L40S (864 vs 2,000 GB/s), che di solito limita la generazione di token degli LLM. Memoria: 48 GB vs 80 GB.
- La L40S costa il 70% in meno all'ora rispetto alla H100 PCIe ai prezzi on demand più bassi ($0.60 vs $1.98).
- Per unità di calcolo, la L40S è l'affare migliore: $1.66 vs $2.62 per PFLOP-ora in FP16/BF16 denso.
| Specifica / prezzo | L40S | H100 PCIe |
|---|---|---|
| Memoria | 48 GB GDDR6 | 80 GB HBM2emigliore |
| Banda di memoria | 864 GB/s | 2,000 GB/smigliore |
| FP16 / BF16 (denso) | 0.362 PF | 0.756 PFmigliore |
| FP8 (denso) | 0.733 PF | 1.51 PFmigliore |
| FP4 (denso) | — | — |
| INT8 (denso) | 0.733 PF | 1.51 PFmigliore |
| TF32 (denso) | 0.183 PF | 0.378 PFmigliore |
| FP32 (denso) | 0.0916 PFmigliore | 0.051 PF |
| FP64 (denso) | 0.0014 PF | 0.051 PFmigliore |
| Potenza | 350 W | 350 W |
| Architettura | Ada Lovelace (2023) | Hopper (2022) |
| On demand più basso | $0.60migliore | $1.98 |
| Mediana on demand | $1.50migliore | $2.75 |
| Spot più basso | $0.38migliore | $2.00 |
| FP16/BF16 $ per PFLOP·h | $1.66migliore | $2.62 |
| Provider | 17 | 6 |
L40S vs H100 PCIe: domande
La L40S è più veloce della H100 PCIe?
La H100 PCIe ha calcolo FP16/BF16 denso 2.1× superiore alla L40S. La H100 PCIe ha banda di memoria 2.3× superiore alla L40S. Gli incrementi di velocità reali dipendono dal carico di lavoro: training e prefill scalano con la capacità di calcolo, mentre il decoding degli LLM scala soprattutto con la banda di memoria.
Quale costa meno per FLOP, la L40S o la H100 PCIe?
In questo momento la L40S costa meno per unità di calcolo: $1.66 vs $2.62 per PFLOP-ora ai prezzi on demand più bassi.
Quanto costa noleggiare una L40S rispetto a una H100 PCIe per un mese?
Far girare una GPU 24 ore su 24 al prezzo on demand più basso costa circa $440 al mese per la L40S e $1,445 per la H100 PCIe.
Quale ha più memoria, la L40S o la H100 PCIe?
La H100 PCIe ha più memoria: 80 GB vs 48 GB.