…
Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →| Caractéristique / prix | A10 | L4 |
|---|---|---|
| Mémoire | 24 GB GDDR6 | 24 GB GDDR6 |
| Bande passante mémoire | 600 GB/smeilleur | 300 GB/s |
| FP16 / BF16 (dense) | 0.125 PFmeilleur | 0.121 PF |
| FP8 (dense) | — | 0.242 PF |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.25 PFmeilleur | 0.242 PF |
| TF32 (dense) | 0.0625 PFmeilleur | 0.06 PF |
| FP32 (dense) | 0.0312 PFmeilleur | 0.0303 PF |
| FP64 (dense) | 0.0005 PF | 0.0005 PF |
| Consommation | 150 W | 72 W |
| Architecture | Ampere (2021) | Ada Lovelace (2023) |
| Le plus bas à la demande | $1.00 | $0.27meilleur |
| Médiane à la demande | $1.65 | $0.56meilleur |
| Le plus bas en spot | $0.59 | $0.08meilleur |
| FP16/BF16 $ par PFLOP·h | $8.00 | $2.23meilleur |
| Fournisseurs | 4 | 7 |
Le A10 offre 1.0× plus de calcul FP16/BF16 dense que le L4. Le A10 offre 2.0× plus de bande passante mémoire que le L4. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Actuellement, le L4 est le moins cher par unité de calcul : $2.23 vs $8.00 par PFLOP-heure aux prix à la demande les plus bas.
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $730 par mois pour le A10 et $197 pour le L4.
Les deux ont 24 GB de VRAM ; le A10 dispose de plus de bande passante.