…
L40S vs. A100 SXM 80GB
Cloud-Mietpreis, Rechenleistung pro Dollar und technische Daten im direkten Vergleich.
Im interaktiven Vergleich öffnen →
L40S$0.69niedrigster On-Demand-Preis pro GPU·h
$1.91 pro PFLOP·h · 15 AnbieterA100 SXM 80GB$0.81niedrigster On-Demand-Preis pro GPU·h
$2.58 pro PFLOP·h · 17 AnbieterWas sich wirklich unterscheidet
- Die L40S hat 1.2× mehr dichte FP16/BF16-Leistung als die A100 SXM 80GB (0.362 PF vs. 0.312 PF).
- Die A100 SXM 80GB hat 2.4× mehr Speicherbandbreite als die L40S (864 vs. 2,039 GB/s), was meist die Token-Generierung von LLMs begrenzt. Speicher: 48 GB vs. 80 GB.
- Nur die L40S hat native FP8-Tensor-Cores.
- Die L40S ist pro Stunde 14 % günstiger als die A100 SXM 80GB, gemessen an den niedrigsten On-Demand-Preisen ($0.69 vs. $0.81).
- Pro Einheit Rechenleistung ist die L40S das bessere Angebot: $1.91 vs. $2.58 pro PFLOP-Stunde dense FP16/BF16.
| Daten / Preis | L40S | A100 SXM 80GB |
|---|---|---|
| Speicher | 48 GB GDDR6 | 80 GB HBM2ebesser |
| Speicherbandbreite | 864 GB/s | 2,039 GB/sbesser |
| FP16 / BF16 (dense) | 0.362 PFbesser | 0.312 PF |
| FP8 (dense) | 0.733 PF | — |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.733 PFbesser | 0.624 PF |
| TF32 (dense) | 0.183 PFbesser | 0.156 PF |
| FP32 (dense) | 0.0916 PFbesser | 0.0195 PF |
| FP64 (dense) | 0.0014 PF | 0.0195 PFbesser |
| Leistungsaufnahme | 350 W | 400 W |
| Architektur | Ada Lovelace (2023) | Ampere (2020) |
| Niedrigster On-Demand-Preis | $0.69besser | $0.81 |
| Median On-Demand | $1.50besser | $2.35 |
| Niedrigster Spot-Preis | $0.38besser | $0.90 |
| FP16/BF16 $ pro PFLOP·h | $1.91besser | $2.58 |
| Anbieter | 15 | 17 |
L40S vs. A100 SXM 80GB: Fragen
Ist die L40S schneller als die A100 SXM 80GB?
Die L40S hat 1.2× mehr dichte FP16/BF16-Rechenleistung als die A100 SXM 80GB. Die A100 SXM 80GB hat 2.4× mehr Speicherbandbreite als die L40S. Der reale Geschwindigkeitsgewinn hängt von der Last ab: Training und Prefill skalieren mit der Rechenleistung, LLM-Decoding dagegen vor allem mit der Speicherbandbreite.
Welche ist pro FLOP günstiger, die L40S oder die A100 SXM 80GB?
Derzeit ist die L40S pro Einheit Rechenleistung günstiger: $1.91 vs. $2.58 pro PFLOP-Stunde zu den niedrigsten On-Demand-Preisen.
Was kostet es, eine L40S bzw. eine A100 SXM 80GB einen Monat lang zu mieten?
Eine GPU rund um die Uhr zum niedrigsten On-Demand-Preis kostet etwa $504 pro Monat für die L40S und $588 für die A100 SXM 80GB.
Welche hat mehr Speicher, die L40S oder die A100 SXM 80GB?
Die A100 SXM 80GB hat mehr Speicher: 80 GB vs. 48 GB.