AWS Trainium · Inferentia · 32 GB HBM2e · Inferentia · 2023
1 provider · 6 configurazioni · prezzi al 10 nov 2026, 21:01 UTC
Prezzi giornalieri della Inferentia2 per GPU-ora. Il periodo ombreggiato è ricostruito da archivi pubblici: la cronologia delle versioni dei cataloghi prezzi di SkyPilot, le copie delle pagine prezzi dei provider su Internet Archive e il progetto aperto gpu-price-feed (meno provider rispetto ai dati in tempo reale). In seguito, dal monitoraggio di PetaPrice.
Offerta On demand più economica per Inferentia2 presso ciascun provider, per GPU-ora. Più corta e più verde significa più economica.
Linea verticale sottile = mediana tra i provider ($0.76).
1 provider · 6 configurazioni
Memoria per i pesi più una sequenza di 32K token di contesto, quante GPU servono per contenerla e quanto costa quella replica alla tariffa on-demand disponibile più economica.
| Modello | Parametri | Memoria | GPU | $/h | $/mese |
|---|---|---|---|---|---|
gpt-oss-20b OpenAI · 20.9B | 20.9B · 3.6B attivi | 20 GiB | 1 | $0.76 su AWS | $553 |
Gemma 3 27B Google · 27.4B | 27.4B | 28 GiB | 1 | $0.76 su AWS | $553 |
Qwen3-32B Alibaba · 32.8B | 32.8B | 39 GiB | 2 | $1.52 su AWS | $1,107 |
Llama 3.3 70B Instruct Meta · 70.6B | 70.6B | 76 GiB | 4 | $3.03 su AWS | $2,214 |
gpt-oss-120b OpenAI · 117B | 117B · 5.1B attivi | 110 GiB | 4 | $3.03 su AWS | $2,214 |
Qwen3-235B-A22B Alibaba · 235B | 235B · 22B attivi | 225 GiB | 8 | $6.07 su AWS | $4,428 |
DeepSeek-R1 DeepSeek · 684B | 684B · 37B attivi | 640 GiB | 32 | $24.26 su AWS | $17,712 |
Kimi K3 Moonshot AI · 2.78T | 2.78T · 104B attivi | 2.53 TiB | 64+ | — | — |
Presuppone che sia utilizzabile il 90% della memoria di ogni GPU e arrotonda a 1, 2, 4, 8… GPU per il parallelismo tensoriale (fino a 64). $/h è il numero di GPU per la tariffa on-demand disponibile più economica per GPU; verifica che il provider noleggi istanze di quelle dimensioni. Servire molte richieste contemporaneamente richiede più memoria per il contesto.
GPU con capacità di calcolo e memoria simili e il loro prezzo on demand più basso in questo momento.
I prezzi on demand della Inferentia2 partono da $0.76 per GPU-ora (AWS). La mediana su 1 provider è $0.76, mentre il più alto è $0.76. Far girare una GPU 24 ore su 24 costa circa $553 al mese al prezzo più basso.
Sì. La capacità spot (interrompibile) della Inferentia2 parte da $0.08 per GPU-ora, il 90% in meno del prezzo on demand più basso. Le istanze spot possono essere revocate in qualsiasi momento, quindi usale per training con checkpoint o job batch.
A $0.76 all'ora e con 0.19 PF in FP16/BF16 denso, la Inferentia2 costa $3.99 per PFLOP-ora. È al 58° posto su 75 GPU con prezzi on demand su PetaPrice. I valori sono picchi da scheda tecnica; l'utilizzo reale è in genere del 30–60%.
32 GB di HBM2e con 820 GB/s di banda di memoria, architettura Inferentia (2023), form factor Inferentia. Picco denso: 0.19 PF FP16 / BF16, 0.19 PF FP8, 0.38 PF INT8, 0.0475 PF FP32.
I prezzi sono stati raccolti il 10 nov 2026, 21:01 UTC dalle API e dai cataloghi pubblici dei provider e si aggiornano circa ogni 2 ore. Sono prezzi di listino indicativi; verifica sempre sul sito del provider prima di prenotare.