…
RTX 4090 vs A100 SXM 80GB
Prix de location cloud, calcul par dollar et caractéristiques, côte à côte.
Ouvrir dans le comparateur interactif →
RTX 4090$0.29le plus bas à la demande par GPU·h
$1.78 par PFLOP·h · 6 fournisseursA100 SXM 80GB$0.81le plus bas à la demande par GPU·h
$2.60 par PFLOP·h · 17 fournisseursCe qui les distingue vraiment
- Le A100 SXM 80GB offre 1.9× plus de débit FP16/BF16 dense que le RTX 4090 (0.165 PF vs 0.312 PF).
- Le A100 SXM 80GB offre 2.0× plus de bande passante mémoire que le RTX 4090 (1,008 vs 2,039 GB/s), ce qui limite généralement la génération de tokens des LLM. Mémoire : 24 GB vs 80 GB.
- Seul le RTX 4090 dispose de tensor cores FP8 natifs.
- Le RTX 4090 est 64 % moins cher à l'heure que le A100 SXM 80GB aux prix à la demande les plus bas ($0.29 vs $0.81).
- Par unité de calcul, le RTX 4090 est le plus avantageux : $1.78 vs $2.60 par PFLOP-heure en FP16/BF16 dense.
| Caractéristique / prix | RTX 4090 | A100 SXM 80GB |
|---|---|---|
| Mémoire | 24 GB GDDR6X | 80 GB HBM2emeilleur |
| Bande passante mémoire | 1,008 GB/s | 2,039 GB/smeilleur |
| FP16 / BF16 (dense) | 0.165 PF | 0.312 PFmeilleur |
| FP8 (dense) | 0.33 PF | — |
| FP4 (dense) | — | — |
| INT8 (dense) | 0.661 PFmeilleur | 0.624 PF |
| TF32 (dense) | 0.0826 PF | 0.156 PFmeilleur |
| FP32 (dense) | 0.0826 PFmeilleur | 0.0195 PF |
| FP64 (dense) | 0.0013 PF | 0.0195 PFmeilleur |
| Consommation | 450 W | 400 W |
| Architecture | Ada Lovelace (2022) | Ampere (2020) |
| Le plus bas à la demande | $0.29meilleur | $0.81 |
| Médiane à la demande | $0.39meilleur | $2.35 |
| Le plus bas en spot | $0.16meilleur | $0.90 |
| FP16/BF16 $ par PFLOP·h | $1.78meilleur | $2.60 |
| Fournisseurs | 6 | 17 |
RTX 4090 vs A100 SXM 80GB : questions
Le RTX 4090 est-il plus rapide que le A100 SXM 80GB ?
Le A100 SXM 80GB offre 1.9× plus de calcul FP16/BF16 dense que le RTX 4090. Le A100 SXM 80GB offre 2.0× plus de bande passante mémoire que le RTX 4090. Les gains réels dépendent de la charge de travail : l'entraînement et le prefill évoluent avec la puissance de calcul, tandis que le décodage des LLM dépend surtout de la bande passante mémoire.
Lequel est le moins cher par FLOP, le RTX 4090 ou le A100 SXM 80GB ?
Actuellement, le RTX 4090 est le moins cher par unité de calcul : $1.78 vs $2.60 par PFLOP-heure aux prix à la demande les plus bas.
Combien coûte la location d'un RTX 4090 vs un A100 SXM 80GB pendant un mois ?
Faire tourner un GPU en continu au prix à la demande le plus bas coûte environ $215 par mois pour le RTX 4090 et $591 pour le A100 SXM 80GB.
Lequel a le plus de mémoire, le RTX 4090 ou le A100 SXM 80GB ?
Le A100 SXM 80GB a plus de mémoire : 80 GB vs 24 GB.