…
Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →| Caractéristique / prix | T4 | L4 |
|---|---|---|
| Mémoire | 16 GB GDDR6 | 24 GB GDDR6meilleur |
| Bande passante mémoire | 320 GB/smeilleur | 300 GB/s |
| FP16 / BF16 (dense) | 0.065 PF | 0.121 PFmeilleur |
| FP8 (dense) | — | 0.242 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.13 PF | 0.242 PFmeilleur |
| TF32 (dense) | — | 0.06 PF |
| FP32 (dense) | 0.0081 PF | 0.0303 PFmeilleur |
| FP64 (dense) | 0.0003 PF | 0.0005 PFmeilleur |
| Consommation | 70 W | 72 W |
| Architecture | Turing (2018) | Ada Lovelace (2023) |
| Le plus bas à la demande | $0.34 | $0.27meilleur |
| Médiane à la demande | $0.35meilleur | $0.56 |
| Le plus bas en spot | $0.07meilleur | $0.08 |
| FP16/BF16 $ par PFLOP·h | $5.28 | $2.23meilleur |
| Fournisseurs | 3 | 7 |
Le L4 offre 1.9× plus de calcul FP16/BF16 dense que le T4. Le T4 offre 1.1× plus de bande passante mémoire que le L4. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Actuellement, le L4 est le moins cher par unité de calcul : $2.23 vs $5.28 par PFLOP-heure aux prix à la demande les plus bas.
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $250 par mois pour le T4 et $197 pour le L4.
Le L4 a plus de mémoire : 24 GB vs 16 GB.