AWS Trainium · Inferentia · 32 GB HBM2e · Inferentia · 2023
1 fournisseurs · 6 configurations · prix au 8 nov. 2026, 11:01 UTC
Prix quotidiens du Inferentia2 par heure GPU. La période grisée est reconstituée à partir d'archives publiques : l'historique des versions des catalogues de prix de SkyPilot, les copies des pages de tarifs des fournisseurs sur Internet Archive et le projet ouvert gpu-price-feed (moins de fournisseurs que les données en direct). Ensuite, il s'agit du suivi propre de PetaPrice.
Offre Inferentia2 À la demande la moins chère chez chaque fournisseur, par heure GPU. Plus la barre est courte et verte, moins c'est cher.
Fine ligne verticale = médiane entre fournisseurs ($0.76).
1 fournisseurs · 6 configurations
Mémoire pour les poids plus une séquence de 32K tokens de contexte, combien de GPU la contiennent et ce que coûte cette réplique au tarif à la demande disponible le moins cher.
| Modèle | Paramètres | Mémoire | GPU | $/h | $/mois |
|---|---|---|---|---|---|
gpt-oss-20b OpenAI · 20.9B | 20.9B · 3.6B actifs | 20 GiB | 1 | $0.76 chez AWS | $553 |
Gemma 3 27B Google · 27.4B | 27.4B | 28 GiB | 1 | $0.76 chez AWS | $553 |
Qwen3-32B Alibaba · 32.8B | 32.8B | 39 GiB | 2 | $1.52 chez AWS | $1,107 |
Llama 3.3 70B Instruct Meta · 70.6B | 70.6B | 76 GiB | 4 | $3.03 chez AWS | $2,214 |
gpt-oss-120b OpenAI · 117B | 117B · 5.1B actifs | 110 GiB | 4 | $3.03 chez AWS | $2,214 |
Qwen3-235B-A22B Alibaba · 235B | 235B · 22B actifs | 225 GiB | 8 | $6.07 chez AWS | $4,428 |
DeepSeek-R1 DeepSeek · 684B | 684B · 37B actifs | 640 GiB | 32 | $24.26 chez AWS | $17,712 |
Kimi K3 Moonshot AI · 2.78T | 2.78T · 104B actifs | 2.53 TiB | 64+ | — | — |
Suppose que 90 % de la mémoire de chaque GPU est utilisable et arrondit à 1, 2, 4, 8… GPU pour le parallélisme de tenseurs (jusqu'à 64). Le $/h est le nombre de GPU multiplié par le tarif à la demande disponible le moins cher par GPU ; vérifiez que le fournisseur loue des instances de cette taille. Servir de nombreuses requêtes à la fois demande plus de mémoire pour le contexte.
GPU aux performances de calcul et à la mémoire similaires, avec leur prix à la demande le plus bas actuel.
Les prix à la demande du Inferentia2 commencent à $0.76 par heure GPU (AWS). La médiane sur 1 fournisseurs est de $0.76, et le plus cher est à $0.76. Faire tourner un GPU en continu coûte environ $553 par mois au prix le plus bas.
Oui. La capacité Inferentia2 spot (interruptible) commence à $0.08 par heure GPU, soit 90 % de moins que le prix à la demande le plus bas. Les instances spot peuvent être préemptées à tout moment : utilisez-les pour de l'entraînement avec checkpoints ou des traitements par lots.
À $0.76 de l'heure et 0.19 PF en FP16/BF16 dense, le Inferentia2 coûte $3.99 par PFLOP-heure. Il se classe ainsi 57 sur 71 GPU disposant de prix à la demande sur PetaPrice. Ces chiffres sont des valeurs crêtes des fiches techniques ; l'utilisation réelle se situe généralement entre 30 et 60 %.
32 GB de HBM2e avec 820 GB/s de bande passante mémoire, architecture Inferentia (2023), format Inferentia. Crête dense : 0.19 PF FP16 / BF16, 0.19 PF FP8, 0.38 PF INT8, 0.0475 PF FP32.
Les prix ont été collectés le 8 nov. 2026, 11:01 UTC via les API des fournisseurs et des catalogues publics, et sont actualisés environ toutes les 2 heures. Ce sont des prix catalogue indicatifs ; vérifiez toujours sur le site du fournisseur avant de réserver.