…
T4 vs L4
Prezzo di noleggio cloud, capacità di calcolo per dollaro e specifiche a confronto.
Apri nel comparatore interattivo →
T4$0.34on demand più basso per GPU·h
$5.28 per PFLOP·h · 3 providerL4$0.27on demand più basso per GPU·h
$2.23 per PFLOP·h · 7 providerCosa cambia davvero
- La L4 ha throughput FP16/BF16 denso 1.9× superiore alla T4 (0.065 PF vs 0.121 PF).
- La T4 ha banda di memoria 1.1× superiore alla L4 (320 vs 300 GB/s), che di solito limita la generazione di token degli LLM. Memoria: 16 GB vs 24 GB.
- Solo la L4 ha tensor core FP8 nativi.
- La L4 costa il 21% in meno all'ora rispetto alla T4 ai prezzi on demand più bassi ($0.34 vs $0.27).
- Per unità di calcolo, la L4 è l'affare migliore: $2.23 vs $5.28 per PFLOP-ora in FP16/BF16 denso.
| Specifica / prezzo | T4 | L4 |
|---|---|---|
| Memoria | 16 GB GDDR6 | 24 GB GDDR6migliore |
| Banda di memoria | 320 GB/smigliore | 300 GB/s |
| FP16 / BF16 (denso) | 0.065 PF | 0.121 PFmigliore |
| FP8 (denso) | — | 0.242 PF |
| FP4 (denso) | — | — |
| INT8 (denso) | 0.13 PF | 0.242 PFmigliore |
| TF32 (denso) | — | 0.06 PF |
| FP32 (denso) | 0.0081 PF | 0.0303 PFmigliore |
| FP64 (denso) | 0.0003 PF | 0.0005 PFmigliore |
| Potenza | 70 W | 72 W |
| Architettura | Turing (2018) | Ada Lovelace (2023) |
| On demand più basso | $0.34 | $0.27migliore |
| Mediana on demand | $0.35migliore | $0.56 |
| Spot più basso | $0.07migliore | $0.08 |
| FP16/BF16 $ per PFLOP·h | $5.28 | $2.23migliore |
| Provider | 3 | 7 |
T4 vs L4: domande
La T4 è più veloce della L4?
La L4 ha calcolo FP16/BF16 denso 1.9× superiore alla T4. La T4 ha banda di memoria 1.1× superiore alla L4. Gli incrementi di velocità reali dipendono dal carico di lavoro: training e prefill scalano con la capacità di calcolo, mentre il decoding degli LLM scala soprattutto con la banda di memoria.
Quale costa meno per FLOP, la T4 o la L4?
In questo momento la L4 costa meno per unità di calcolo: $2.23 vs $5.28 per PFLOP-ora ai prezzi on demand più bassi.
Quanto costa noleggiare una T4 rispetto a una L4 per un mese?
Far girare una GPU 24 ore su 24 al prezzo on demand più basso costa circa $250 al mese per la T4 e $197 per la L4.
Quale ha più memoria, la T4 o la L4?
La L4 ha più memoria: 24 GB vs 16 GB.