AWS Trainium · Inferentia · 32 GB HBM2e · Inferentia · 2023
1 Anbieter · 6 Konfigurationen · Preise vom 8. Nov. 2026, 11:01 UTC
Tägliche Inferentia2-Preise pro GPU-Stunde. Der schattierte Zeitraum ist aus öffentlichen Archiven rekonstruiert: der Versionshistorie der Preiskataloge von SkyPilot, Kopien der Preisseiten der Anbieter im Internet Archive und dem offenen Projekt gpu-price-feed (weniger Anbieter als bei den Live-Daten). Danach folgt die eigene Erfassung von PetaPrice.
Günstigstes Inferentia2-Angebot (On-Demand) je Anbieter, pro GPU-Stunde. Kürzer und grüner ist günstiger.
Dünne senkrechte Linie = Median über alle Anbieter ($0.76).
1 Anbieter · 6 Konfigurationen
Speicher für die Gewichte plus eine Sequenz mit 32K Tokens Kontext, wie viele GPUs das fassen und was dieses Replikat zum günstigsten verfügbaren On-Demand-Preis kostet.
| Modell | Parameter | Speicher | GPUs | $/h | $/Monat |
|---|---|---|---|---|---|
gpt-oss-20b OpenAI · 20.9B | 20.9B · 3.6B aktiv | 20 GiB | 1 | $0.76 bei AWS | $553 |
Gemma 3 27B Google · 27.4B | 27.4B | 28 GiB | 1 | $0.76 bei AWS | $553 |
Qwen3-32B Alibaba · 32.8B | 32.8B | 39 GiB | 2 | $1.52 bei AWS | $1,107 |
Llama 3.3 70B Instruct Meta · 70.6B | 70.6B | 76 GiB | 4 | $3.03 bei AWS | $2,214 |
gpt-oss-120b OpenAI · 117B | 117B · 5.1B aktiv | 110 GiB | 4 | $3.03 bei AWS | $2,214 |
Qwen3-235B-A22B Alibaba · 235B | 235B · 22B aktiv | 225 GiB | 8 | $6.07 bei AWS | $4,428 |
DeepSeek-R1 DeepSeek · 684B | 684B · 37B aktiv | 640 GiB | 32 | $24.26 bei AWS | $17,712 |
Kimi K3 Moonshot AI · 2.78T | 2.78T · 104B aktiv | 2.53 TiB | 64+ | — | — |
Annahme: 90 % des Speichers jeder GPU sind nutzbar; aufgerundet auf 1, 2, 4, 8 … GPUs für Tensor-Parallelismus (bis 64). $/h ist die GPU-Anzahl mal der günstigste verfügbare On-Demand-Preis pro GPU; prüfe, ob der Anbieter Instanzen dieser Größe vermietet. Viele gleichzeitige Anfragen brauchen mehr Speicher für Kontext.
GPUs mit ähnlicher Rechenleistung und ähnlichem Speicher und ihr aktuell niedrigster On-Demand-Preis.
On-Demand-Preise für die Inferentia2 beginnen bei $0.76 pro GPU-Stunde (AWS). Der Median über 1 Anbieter liegt bei $0.76, das teuerste Angebot liegt bei $0.76. Eine GPU rund um die Uhr kostet zum niedrigsten Preis etwa $553 pro Monat.
Ja. Spot-Kapazität (unterbrechbar) für die Inferentia2 gibt es ab $0.08 pro GPU-Stunde, 90 % unter dem günstigsten On-Demand-Preis. Spot-Instanzen können jederzeit entzogen werden; sie eignen sich daher für Training mit Checkpoints oder Batch-Jobs.
Bei $0.76 pro Stunde und 0.19 PF dense FP16/BF16 kostet die Inferentia2 $3.99 pro PFLOP-Stunde. Damit liegt sie auf Rang 57 von 71 GPUs mit On-Demand-Preisen auf PetaPrice. Die Werte sind Datenblatt-Spitzenwerte; die reale Auslastung liegt meist bei 30–60 %.
32 GB HBM2e mit 820 GB/s Speicherbandbreite, Inferentia-Architektur (2023), Formfaktor Inferentia. Dichte Spitzenwerte: 0.19 PF FP16 / BF16, 0.19 PF FP8, 0.38 PF INT8, 0.0475 PF FP32.
Die Preise wurden am 8. Nov. 2026, 11:01 UTC aus Anbieter-APIs und öffentlichen Katalogen erfasst und werden etwa alle 2 Stunden aktualisiert. Es sind unverbindliche Listenpreise; vor der Buchung immer auf der Website des Anbieters prüfen.