…
Cloud-Mietpreis, Rechenleistung pro Dollar und technische Daten im direkten Vergleich.
Im interaktiven Vergleich öffnen →| Daten / Preis | A10 | L4 |
|---|---|---|
| Speicher | 24 GB GDDR6 | 24 GB GDDR6 |
| Speicherbandbreite | 600 GB/sbesser | 300 GB/s |
| FP16 / BF16 (dense) | 0.125 PFbesser | 0.121 PF |
| FP8 (dense) | — | 0.242 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.25 PFbesser | 0.242 PF |
| TF32 (dense) | 0.0625 PFbesser | 0.06 PF |
| FP32 (dense) | 0.0312 PFbesser | 0.0303 PF |
| FP64 (dense) | 0.0005 PF | 0.0005 PF |
| Leistungsaufnahme | 150 W | 72 W |
| Architektur | Ampere (2021) | Ada Lovelace (2023) |
| Niedrigster On-Demand-Preis | $1.00 | $0.27besser |
| Median On-Demand | $1.65 | $0.56besser |
| Niedrigster Spot-Preis | $0.59 | $0.08besser |
| FP16/BF16 $ pro PFLOP·h | $8.00 | $2.23besser |
| Anbieter | 4 | 7 |
Die A10 hat 1.0× mehr dichte FP16/BF16-Rechenleistung als die L4. Die A10 hat 2.0× mehr Speicherbandbreite als die L4. Der reale Geschwindigkeitsgewinn hängt von der Last ab: Training und Prefill skalieren mit der Rechenleistung, LLM-Decoding dagegen vor allem mit der Speicherbandbreite.
Derzeit ist die L4 pro Einheit Rechenleistung günstiger: $2.23 vs. $8.00 pro PFLOP-Stunde zu den niedrigsten On-Demand-Preisen.
Eine GPU rund um die Uhr zum niedrigsten On-Demand-Preis kostet etwa $730 pro Monat für die A10 und $197 für die L4.
Beide haben 24 GB VRAM; die A10 hat mehr Bandbreite.