…
L40S vs. RTX 6000 Ada
Cloud-Mietpreis, Rechenleistung pro Dollar und technische Daten im direkten Vergleich.
Im interaktiven Vergleich öffnen →
L40S$0.60niedrigster On-Demand-Preis pro GPU·h
$1.66 pro PFLOP·h · 17 AnbieterRTX 6000 Ada$0.60niedrigster On-Demand-Preis pro GPU·h
$1.65 pro PFLOP·h · 6 AnbieterWas sich wirklich unterscheidet
- Die L40S und die RTX 6000 Ada haben gleich viel dichte FP16/BF16-Leistung (0.362 PF vs. 0.364 PF).
- Die RTX 6000 Ada hat 1.1× mehr Speicherbandbreite als die L40S (864 vs. 960 GB/s), was meist die Token-Generierung von LLMs begrenzt. Speicher: 48 GB vs. 48 GB.
- Beide kosten pro Stunde etwa gleich viel, gemessen an den niedrigsten On-Demand-Preisen ($0.60 vs. $0.60).
- Pro Einheit Rechenleistung ist die RTX 6000 Ada das bessere Angebot: $1.65 vs. $1.66 pro PFLOP-Stunde dense FP16/BF16.
| Daten / Preis | L40S | RTX 6000 Ada |
|---|---|---|
| Speicher | 48 GB GDDR6 | 48 GB GDDR6 |
| Speicherbandbreite | 864 GB/s | 960 GB/sbesser |
| FP16 / BF16 (dense) | 0.362 PF | 0.364 PFbesser |
| FP8 (dense) | 0.733 PFbesser | 0.729 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.733 PFbesser | 0.729 PF |
| TF32 (dense) | 0.183 PFbesser | 0.182 PF |
| FP32 (dense) | 0.0916 PFbesser | 0.0911 PF |
| FP64 (dense) | 0.0014 PF | 0.0014 PF |
| Leistungsaufnahme | 350 W | 300 W |
| Architektur | Ada Lovelace (2023) | Ada Lovelace (2022) |
| Niedrigster On-Demand-Preis | $0.60 | $0.60besser |
| Median On-Demand | $1.50 | $0.86besser |
| Niedrigster Spot-Preis | $0.38besser | $0.58 |
| FP16/BF16 $ pro PFLOP·h | $1.66 | $1.65besser |
| Anbieter | 17 | 6 |
L40S vs. RTX 6000 Ada: Fragen
Ist die L40S schneller als die RTX 6000 Ada?
Die L40S und die RTX 6000 Ada haben gleich viel dichte FP16/BF16-Rechenleistung. Die RTX 6000 Ada hat 1.1× mehr Speicherbandbreite als die L40S. Der reale Geschwindigkeitsgewinn hängt von der Last ab: Training und Prefill skalieren mit der Rechenleistung, LLM-Decoding dagegen vor allem mit der Speicherbandbreite.
Welche ist pro FLOP günstiger, die L40S oder die RTX 6000 Ada?
Derzeit ist die RTX 6000 Ada pro Einheit Rechenleistung günstiger: $1.65 vs. $1.66 pro PFLOP-Stunde zu den niedrigsten On-Demand-Preisen.
Was kostet es, eine L40S bzw. eine RTX 6000 Ada einen Monat lang zu mieten?
Eine GPU rund um die Uhr zum niedrigsten On-Demand-Preis kostet etwa $440 pro Monat für die L40S und $438 für die RTX 6000 Ada.
Welche hat mehr Speicher, die L40S oder die RTX 6000 Ada?
Beide haben 48 GB VRAM; die RTX 6000 Ada hat mehr Bandbreite.