…
L40S vs. H100 PCIe
Cloud-Mietpreis, Rechenleistung pro Dollar und technische Daten im direkten Vergleich.
Im interaktiven Vergleich öffnen →
L40S$0.60niedrigster On-Demand-Preis pro GPU·h
$1.66 pro PFLOP·h · 17 AnbieterH100 PCIe$1.98niedrigster On-Demand-Preis pro GPU·h
$2.62 pro PFLOP·h · 6 AnbieterWas sich wirklich unterscheidet
- Die H100 PCIe hat 2.1× mehr dichte FP16/BF16-Leistung als die L40S (0.362 PF vs. 0.756 PF).
- Die H100 PCIe hat 2.3× mehr Speicherbandbreite als die L40S (864 vs. 2,000 GB/s), was meist die Token-Generierung von LLMs begrenzt. Speicher: 48 GB vs. 80 GB.
- Die L40S ist pro Stunde 70 % günstiger als die H100 PCIe, gemessen an den niedrigsten On-Demand-Preisen ($0.60 vs. $1.98).
- Pro Einheit Rechenleistung ist die L40S das bessere Angebot: $1.66 vs. $2.62 pro PFLOP-Stunde dense FP16/BF16.
| Daten / Preis | L40S | H100 PCIe |
|---|---|---|
| Speicher | 48 GB GDDR6 | 80 GB HBM2ebesser |
| Speicherbandbreite | 864 GB/s | 2,000 GB/sbesser |
| FP16 / BF16 (dense) | 0.362 PF | 0.756 PFbesser |
| FP8 (dense) | 0.733 PF | 1.51 PFbesser |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.733 PF | 1.51 PFbesser |
| TF32 (dense) | 0.183 PF | 0.378 PFbesser |
| FP32 (dense) | 0.0916 PFbesser | 0.051 PF |
| FP64 (dense) | 0.0014 PF | 0.051 PFbesser |
| Leistungsaufnahme | 350 W | 350 W |
| Architektur | Ada Lovelace (2023) | Hopper (2022) |
| Niedrigster On-Demand-Preis | $0.60besser | $1.98 |
| Median On-Demand | $1.50besser | $2.75 |
| Niedrigster Spot-Preis | $0.38besser | $2.00 |
| FP16/BF16 $ pro PFLOP·h | $1.66besser | $2.62 |
| Anbieter | 17 | 6 |
L40S vs. H100 PCIe: Fragen
Ist die L40S schneller als die H100 PCIe?
Die H100 PCIe hat 2.1× mehr dichte FP16/BF16-Rechenleistung als die L40S. Die H100 PCIe hat 2.3× mehr Speicherbandbreite als die L40S. Der reale Geschwindigkeitsgewinn hängt von der Last ab: Training und Prefill skalieren mit der Rechenleistung, LLM-Decoding dagegen vor allem mit der Speicherbandbreite.
Welche ist pro FLOP günstiger, die L40S oder die H100 PCIe?
Derzeit ist die L40S pro Einheit Rechenleistung günstiger: $1.66 vs. $2.62 pro PFLOP-Stunde zu den niedrigsten On-Demand-Preisen.
Was kostet es, eine L40S bzw. eine H100 PCIe einen Monat lang zu mieten?
Eine GPU rund um die Uhr zum niedrigsten On-Demand-Preis kostet etwa $440 pro Monat für die L40S und $1,445 für die H100 PCIe.
Welche hat mehr Speicher, die L40S oder die H100 PCIe?
Die H100 PCIe hat mehr Speicher: 80 GB vs. 48 GB.