…
L40S vs. RTX 6000 Ada
Cloud-Mietpreis, Rechenleistung pro Dollar und technische Daten im direkten Vergleich.
Im interaktiven Vergleich öffnen →
L40S$0.38niedrigster On-Demand-Preis pro GPU·h
$1.05 pro PFLOP·h · 26 AnbieterRTX 6000 Ada$0.72niedrigster On-Demand-Preis pro GPU·h
$1.96 pro PFLOP·h · 8 AnbieterWas sich wirklich unterscheidet
- Die L40S und die RTX 6000 Ada haben gleich viel dichte FP16/BF16-Leistung (0.362 PF vs. 0.364 PF).
- Die RTX 6000 Ada hat 1.1× mehr Speicherbandbreite als die L40S (864 vs. 960 GB/s), was meist die Token-Generierung von LLMs begrenzt. Speicher: 48 GB vs. 48 GB.
- Die L40S ist pro Stunde 47 % günstiger als die RTX 6000 Ada, gemessen an den niedrigsten On-Demand-Preisen ($0.38 vs. $0.72).
- Pro Einheit Rechenleistung ist die L40S das bessere Angebot: $1.05 vs. $1.96 pro PFLOP-Stunde dense FP16/BF16.
| Daten / Preis | L40S | RTX 6000 Ada |
|---|---|---|
| Speicher | 48 GB GDDR6 | 48 GB GDDR6 |
| Speicherbandbreite | 864 GB/s | 960 GB/sbesser |
| FP16 / BF16 (dense) | 0.362 PF | 0.364 PFbesser |
| FP8 (dense) | 0.733 PFbesser | 0.729 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.733 PFbesser | 0.729 PF |
| TF32 (dense) | 0.183 PFbesser | 0.182 PF |
| FP32 (dense) | 0.0916 PFbesser | 0.0911 PF |
| FP64 (dense) | 0.0014 PF | 0.0014 PF |
| Leistungsaufnahme | 350 W | 300 W |
| Architektur | Ada Lovelace (2023) | Ada Lovelace (2022) |
| Niedrigster On-Demand-Preis | $0.38besser | $0.72 |
| Median On-Demand | $1.29 | $0.93besser |
| Niedrigster Spot-Preis | $0.53besser | $0.77 |
| FP16/BF16 $ pro PFLOP·h | $1.05besser | $1.96 |
| Anbieter | 26 | 8 |
L40S vs. RTX 6000 Ada: Fragen
Ist die L40S schneller als die RTX 6000 Ada?
Die L40S und die RTX 6000 Ada haben gleich viel dichte FP16/BF16-Rechenleistung. Die RTX 6000 Ada hat 1.1× mehr Speicherbandbreite als die L40S. Der reale Geschwindigkeitsgewinn hängt von der Last ab: Training und Prefill skalieren mit der Rechenleistung, LLM-Decoding dagegen vor allem mit der Speicherbandbreite.
Welche ist pro FLOP günstiger, die L40S oder die RTX 6000 Ada?
Derzeit ist die L40S pro Einheit Rechenleistung günstiger: $1.05 vs. $1.96 pro PFLOP-Stunde zu den niedrigsten On-Demand-Preisen.
Was kostet es, eine L40S bzw. eine RTX 6000 Ada einen Monat lang zu mieten?
Eine GPU rund um die Uhr zum niedrigsten On-Demand-Preis kostet etwa $277 pro Monat für die L40S und $522 für die RTX 6000 Ada.
Welche hat mehr Speicher, die L40S oder die RTX 6000 Ada?
Beide haben 48 GB VRAM; die RTX 6000 Ada hat mehr Bandbreite.