Méthodologie
Au 9 novembre 2026 à 13:01 UTC : 1414 prix de 50 fournisseurs pour 77 GPU, issus de 51 flux de données (46 fonctionnels).
Les chiffres
- $/PFLOP·h = prix par heure de GPU ÷ PFLOPS crête dans la précision choisie. Par exemple, une H100 SXM à 2,00 $/h fournit 0,989 PFLOPS BF16 denses et coûte donc 2,02 $ par PFLOP·h. Toutes les valeurs de calcul sur PetaPrice sont en PFLOPS.
- Toujours en dense. Les fabricants annoncent souvent des chiffres avec sparsité 2:4, qui doublent la valeur affichée. L'entraînement et l'inférence de LLM n'utilisent presque jamais la sparsité structurée : nous divisons donc ces chiffres par deux. Les valeurs denses et sparses ne sont jamais mélangées.
- Pour les cartes GeForce, nous utilisons le débit tensor FP16/BF16 avec accumulation FP32, celui auquel tourne réellement l'entraînement en précision mixte. NVIDIA met en avant pour les GeForce le débit avec accumulation FP16, deux fois plus élevé.
- Il s'agit de valeurs crêtes des fiches techniques. L'utilisation réelle des FLOPS d'un modèle se situe généralement entre 30 et 60 %. Utilisez ces chiffres pour comparer les GPU entre eux, pas pour prédire des temps d'exécution réels.
- Deux angles alternatifs : le $/GB·h de VRAM (quelle est la façon la moins chère de faire tenir un modèle ?) et le $/TB/s·h de bande passante mémoire (la vitesse de décodage des LLM est généralement limitée par la bande passante).
Les prix
- Les prix proviennent directement de chaque fournisseur lorsqu'il les publie : API publiques (Vast.ai, RunPod, Verda, Vultr, Cudo, Hyperbolic, Scaleway, OVHcloud, Lium, Akash Network, Akamai (Linode), EmpirioLabs AI, Hetzner, STACKIT, T Cloud Public, Exoscale, Leaseweb, Hivenet), grilles tarifaires officielles (AWS, Azure, Oracle Cloud) ou pages de tarifs (Lambda, Nebius, Hyperstack, DigitalOcean, Together AI, Crusoe, Hot Aisle, TensorWave, Cirrascale, Seeweb, Massed Compute, Latitude.sh, CoreWeave, Oblivus, Thunder Compute, Koyeb, Sesterce, IONOS, Gcore, UpCloud, Infomaniak, Leafcloud, Civo, Arkane Cloud). L'API multi-cloud en direct de Shadeform et les catalogues publics de SkyPilot ne servent qu'à compléter les fournisseurs sans source directe, comme Google Cloud, Voltage Park ou Denvr. Les prix de Google Cloud incluent la machine requise par chaque GPU. Les fractions de GPU (partitions MIG, vGPU) sont exclues, et les catalogues qui ne sont plus mis à jour sont ignorés.
- Les données sont actualisées toutes les 2 heures. Chaque prix est ramené en USD par GPU et par heure. Le tableau affiche aussi le prix de l'instance complète. Les prix en euros sont convertis au taux de référence quotidien de la Banque centrale européenne.
- Les prix à la demande, spot (interruptibles) et réservés/avec engagement ne sont jamais mélangés. La vue par défaut n'affiche que les prix à la demande.
- Pour les hyperscalers, chaque SKU indique la région la moins chère, avec le nombre d'autres régions. Pour les places de marché comme Vast.ai, nous regroupons les annonces identiques et affichons les trois moins chères par configuration.
- Les GPU proposés par des fournisseurs mais absents de notre fiche technique sont affichés comme « specs à venir » avec leur prix et leur mémoire, afin que le nouveau matériel apparaisse dès qu'il est proposé.
- Les prix n'incluent ni stockage, ni trafic sortant, ni adresses IP, sauf si le fournisseur les inclut. Les prix Vast.ai comprennent le disque par défaut de l'hébergeur.
Les règles que chaque prix doit respecter
- Uniquement des GPU complets : les partitions MIG, les vGPU et les GPU en temps partagé sont rejetés.
- Le nom du GPU doit correspondre à notre fiche technique ou désigner clairement un nouvel accélérateur, qui apparaît alors comme « specs à venir ». Tout le reste est écarté, jamais deviné.
- Le prix doit se situer entre 0,01 $ et 200 $ par heure GPU.
- Chaque fournisseur provient d'un seul flux, le plus direct, afin que personne ne soit compté deux fois.
- Pour les configurations identiques (même fournisseur, GPU, nombre de GPU et type de prix), seule la ligne la moins chère est conservée ; pour les places de marché, les trois moins chères.
- Les catalogues tiers non mis à jour depuis 45 jours ou plus sont écartés.
Définitions
- « Dès X $ » : le prix à la demande le plus bas par heure GPU pour un GPU, tous fournisseurs et régions confondus.
- Médiane : calculée sur le prix à la demande le plus bas de chaque fournisseur, de sorte qu'un fournisseur proposant de nombreuses configurations ne compte qu'une fois.
- Coût mensuel : prix horaire × 730 heures.
- Classement qualité-prix : les GPU disposant de prix à la demande, classés par $ par PFLOP-heure en FP16/BF16 dense.
D'où viennent les prix de chaque fournisseur
Chaque fournisseur est lu depuis le flux le plus direct qui le couvre : d'abord sa propre API ou grille tarifaire, puis sa propre page de tarifs, puis un agrégateur multi-cloud.
| Fournisseur | Flux | Type | Prix |
|---|---|---|---|
| Akamai (Linode) | Akamai (Linode) API | API ou grille tarifaire officielle | 7 |
| Akash Network | Akash API | API ou grille tarifaire officielle | 9 |
| AWS | AWS pricing | API ou grille tarifaire officielle | 62 |
| Azure | Azure Retail API | API ou grille tarifaire officielle | 64 |
| Cudo Compute | Cudo API | API ou grille tarifaire officielle | 2 |
| EmpirioLabs AI | EmpirioLabs API | API ou grille tarifaire officielle | 42 |
| Exoscale | Exoscale API | API ou grille tarifaire officielle | 22 |
| GPU.ai | GPU.ai | API ou grille tarifaire officielle | 49 |
| Hivenet | Hivenet API | API ou grille tarifaire officielle | 4 |
| Hyperbolic | Hyperbolic API | API ou grille tarifaire officielle | 5 |
| Leaseweb | Leaseweb API | API ou grille tarifaire officielle | 17 |
| Lium | Lium | API ou grille tarifaire officielle | 85 |
| Oracle Cloud | Oracle price list API | API ou grille tarifaire officielle | 15 |
| OVHcloud | OVHcloud catalog API | API ou grille tarifaire officielle | 29 |
| RunPod | RunPod | API ou grille tarifaire officielle | 65 |
| Sesterce | Sesterce | API ou grille tarifaire officielle | 36 |
| STACKIT | STACKIT API | API ou grille tarifaire officielle | 10 |
| T Cloud Public | T Cloud Public API | API ou grille tarifaire officielle | 29 |
| Vast.ai | Vast.ai | API ou grille tarifaire officielle | 155 |
| Verda (DataCrunch) | Verda | API ou grille tarifaire officielle | 90 |
| Vultr | Vultr | API ou grille tarifaire officielle | 4 |
| Arkane Cloud | Arkane Cloud pricing page | Page de tarifs officielle | 2 |
| Civo | Civo pricing page | Page de tarifs officielle | 87 |
| CoreWeave | CoreWeave pricing page | Page de tarifs officielle | 17 |
| DigitalOcean | DigitalOcean pricing page | Page de tarifs officielle | 24 |
| Gcore | Gcore pricing page | Page de tarifs officielle | 17 |
| Hot Aisle | Hot Aisle pricing page | Page de tarifs officielle | 4 |
| Hyperstack | Hyperstack pricing page | Page de tarifs officielle | 26 |
| Infomaniak | Infomaniak pricing page | Page de tarifs officielle | 7 |
| IONOS | IONOS Cloud pricing page | Page de tarifs officielle | 4 |
| Koyeb | Koyeb pricing page | Page de tarifs officielle | 22 |
| Lambda | Lambda pricing page | Page de tarifs officielle | 28 |
| Latitude.sh | Latitude pricing page | Page de tarifs officielle | 8 |
| Leafcloud | Leafcloud pricing page | Page de tarifs officielle | 12 |
| Massed Compute | Massed Compute pricing page | Page de tarifs officielle | 52 |
| Nebius | Nebius pricing page | Page de tarifs officielle | 6 |
| Oblivus | Oblivus pricing page | Page de tarifs officielle | 42 |
| Seeweb | Seeweb pricing page | Page de tarifs officielle | 44 |
| TensorWave | TensorWave product pages | Page de tarifs officielle | 3 |
| Together AI | Together AI pricing page | Page de tarifs officielle | 11 |
| UpCloud | UpCloud pricing page | Page de tarifs officielle | 44 |
| Crusoe | Shadeform | Agrégateur | 17 |
| Denvr | Shadeform | Agrégateur | 6 |
| Google Cloud | SkyPilot catalog | Agrégateur | 74 |
| Horizon | Shadeform | Agrégateur | 2 |
| IMWT | Shadeform | Agrégateur | 12 |
| Latitude.sh | Shadeform | Agrégateur | 3 |
| Paperspace | Shadeform | Agrégateur | 22 |
| Phyntec | Shadeform | Agrégateur | 2 |
| Scaleway | Shadeform | Agrégateur | 11 |
| Voltage Park | Shadeform | Agrégateur | 4 |
Fiche technique
Débit crête dense par GPU. L'INT8 est exprimé en TOPS. Un tiret signifie que le GPU ne prend pas en charge nativement cette précision. (PFLOPS)
| GPU | Fabricant | Architecture | VRAM | GB/s | FP16 / BF16 | FP8 | FP4 | INT8 | TF32 | FP32 | FP64 |
|---|---|---|---|---|---|---|---|---|---|---|---|
| GB300 | NVIDIA | Blackwell Ultra | 288 GB | 8,000 | 2.5 | 5 | 15 | 0.33 | 1.25 | 0.08 | 0.0013 |
| B300 SXM | NVIDIA | Blackwell Ultra | 288 GB | 8,000 | 2.25 | 4.5 | 13.5 | 0.33 | 1.1 | 0.075 | 0.0013 |
| GB200 | NVIDIA | Blackwell | 186 GB | 8,000 | 2.5 | 5 | 10 | 5 | 1.25 | 0.08 | 0.045 |
| B200 SXM | NVIDIA | Blackwell | 180 GB | 7,700 | 2.25 | 4.5 | 9 | 4.5 | 1.1 | 0.075 | 0.037 |
| H200 SXM | NVIDIA | Hopper | 141 GB | 4,800 | 0.989 | 1.98 | — | 1.98 | 0.495 | 0.067 | 0.067 |
| H200 NVL | NVIDIA | Hopper | 141 GB | 4,800 | 0.835 | 1.67 | — | 1.67 | 0.417 | 0.06 | 0.06 |
| GH200 | NVIDIA | Hopper | 96 GB | 4,000 | 0.989 | 1.98 | — | 1.98 | 0.495 | 0.067 | 0.067 |
| H100 SXM | NVIDIA | Hopper | 80 GB | 3,350 | 0.989 | 1.98 | — | 1.98 | 0.495 | 0.067 | 0.067 |
| H100 NVL | NVIDIA | Hopper | 94 GB | 3,900 | 0.835 | 1.67 | — | 1.67 | 0.417 | 0.06 | 0.06 |
| H100 PCIe | NVIDIA | Hopper | 80 GB | 2,000 | 0.756 | 1.51 | — | 1.51 | 0.378 | 0.051 | 0.051 |
| H800 SXM | NVIDIA | Hopper | 80 GB | 3,350 | 0.989 | 1.98 | — | 1.98 | 0.495 | 0.067 | 0.001 |
| H20 | NVIDIA | Hopper | 96 GB | 4,000 | 0.148 | 0.296 | — | 0.296 | 0.074 | 0.044 | 0.001 |
| A100 SXM 80GB | NVIDIA | Ampere | 80 GB | 2,039 | 0.312 | — | — | 0.624 | 0.156 | 0.0195 | 0.0195 |
| A100 SXM 40GB | NVIDIA | Ampere | 40 GB | 1,555 | 0.312 | — | — | 0.624 | 0.156 | 0.0195 | 0.0195 |
| A100 PCIe 80GB | NVIDIA | Ampere | 80 GB | 1,935 | 0.312 | — | — | 0.624 | 0.156 | 0.0195 | 0.0195 |
| A100 PCIe 40GB | NVIDIA | Ampere | 40 GB | 1,555 | 0.312 | — | — | 0.624 | 0.156 | 0.0195 | 0.0195 |
| A800 | NVIDIA | Ampere | 80 GB | 1,935 | 0.312 | — | — | 0.624 | 0.156 | 0.0195 | 0.0195 |
| L40S | NVIDIA | Ada Lovelace | 48 GB | 864 | 0.362 | 0.733 | — | 0.733 | 0.183 | 0.0916 | 0.0014 |
| L40 | NVIDIA | Ada Lovelace | 48 GB | 864 | 0.181 | 0.362 | — | 0.362 | 0.0905 | 0.0905 | 0.0014 |
| L4 | NVIDIA | Ada Lovelace | 24 GB | 300 | 0.121 | 0.242 | — | 0.242 | 0.06 | 0.0303 | 0.0005 |
| A40 | NVIDIA | Ampere | 48 GB | 696 | 0.15 | — | — | 0.299 | 0.0748 | 0.0374 | 0.0006 |
| A30 | NVIDIA | Ampere | 24 GB | 933 | 0.165 | — | — | 0.33 | 0.082 | 0.0103 | 0.0103 |
| A10 | NVIDIA | Ampere | 24 GB | 600 | 0.125 | — | — | 0.25 | 0.0625 | 0.0312 | 0.0005 |
| A10G | NVIDIA | Ampere | 24 GB | 600 | 0.07 | — | — | 0.14 | 0.035 | 0.0312 | 0.0005 |
| A2 | NVIDIA | Ampere | 16 GB | 200 | 0.018 | — | — | 0.036 | 0.009 | 0.0045 | — |
| A16 | NVIDIA | Ampere | 16 GB | 200 | 0.018 | — | — | 0.036 | 0.009 | 0.0045 | — |
| T4 | NVIDIA | Turing | 16 GB | 320 | 0.065 | — | — | 0.13 | — | 0.0081 | 0.0003 |
| V100 SXM2 32GB | NVIDIA | Volta | 32 GB | 900 | 0.125 | — | — | — | — | 0.0157 | 0.0078 |
| V100 SXM2 16GB | NVIDIA | Volta | 16 GB | 900 | 0.125 | — | — | — | — | 0.0157 | 0.0078 |
| V100 PCIe 32GB | NVIDIA | Volta | 32 GB | 900 | 0.112 | — | — | — | — | 0.014 | 0.007 |
| V100 PCIe | NVIDIA | Volta | 16 GB | 900 | 0.112 | — | — | — | — | 0.014 | 0.007 |
| V100S PCIe | NVIDIA | Volta | 32 GB | 1,134 | 0.13 | — | — | — | — | 0.0164 | 0.0082 |
| P100 | NVIDIA | Pascal | 16 GB | 732 | 0.0187 | — | — | — | — | 0.0093 | 0.0047 |
| RTX PRO 6000 Blackwell | NVIDIA | Blackwell | 96 GB | 1,792 | 0.504 | 1.01 | 2.02 | 1.01 | 0.126 | 0.126 | 0.002 |
| RTX PRO 6000 Blackwell Max-Q | NVIDIA | Blackwell | 96 GB | 1,792 | 0.439 | 0.878 | 1.76 | 0.878 | 0.11 | 0.11 | 0.0017 |
| RTX 6000 Ada | NVIDIA | Ada Lovelace | 48 GB | 960 | 0.364 | 0.729 | — | 0.729 | 0.182 | 0.0911 | 0.0014 |
| RTX 5000 Ada | NVIDIA | Ada Lovelace | 32 GB | 576 | 0.261 | 0.522 | — | 0.522 | 0.131 | 0.0653 | 0.001 |
| RTX 4000 Ada | NVIDIA | Ada Lovelace | 20 GB | 360 | 0.0818 | 0.164 | — | 0.164 | 0.0409 | 0.0267 | 0.0004 |
| RTX A6000 | NVIDIA | Ampere | 48 GB | 768 | 0.155 | — | — | 0.31 | 0.0774 | 0.0387 | 0.0006 |
| RTX A5000 | NVIDIA | Ampere | 24 GB | 768 | 0.111 | — | — | 0.222 | 0.0556 | 0.0278 | 0.0004 |
| RTX A4500 | NVIDIA | Ampere | 20 GB | 640 | 0.0946 | — | — | 0.189 | 0.0473 | 0.0237 | 0.0004 |
| RTX A4000 | NVIDIA | Ampere | 16 GB | 448 | 0.0767 | — | — | 0.153 | 0.0384 | 0.0192 | 0.0003 |
| RTX PRO 5000 Blackwell | NVIDIA | Blackwell | 48 GB | 1,344 | 0.268 | 0.535 | 1.07 | 0.535 | 0.067 | 0.0737 | 0.0012 |
| RTX PRO 4000 Blackwell | NVIDIA | Blackwell | 24 GB | 672 | 0.147 | 0.294 | 0.589 | 0.294 | 0.037 | 0.0469 | 0.0007 |
| RTX PRO 4000 Blackwell SFF | NVIDIA | Blackwell | 24 GB | 432 | 0.096 | 0.193 | 0.385 | 0.193 | 0.024 | 0.024 | 0.0004 |
| RTX 5880 Ada | NVIDIA | Ada Lovelace | 48 GB | 960 | 0.277 | 0.555 | — | 0.555 | 0.139 | 0.0693 | 0.0011 |
| RTX PRO 4500 Blackwell | NVIDIA | Blackwell | 32 GB | 896 | 0.211 | 0.422 | 0.843 | 0.422 | 0.053 | 0.0549 | 0.0009 |
| RTX 4000 SFF Ada | NVIDIA | Ada Lovelace | 20 GB | 280 | 0.0767 | 0.153 | — | 0.153 | 0.0384 | 0.0192 | 0.0003 |
| Quadro RTX 6000 | NVIDIA | Turing | 24 GB | 672 | 0.131 | — | — | 0.261 | — | 0.0163 | 0.0005 |
| RTX 2000 Ada | NVIDIA | Ada Lovelace | 16 GB | 224 | 0.048 | 0.096 | — | 0.096 | 0.024 | 0.012 | 0.0002 |
| RTX A2000 | NVIDIA | Ampere | 12 GB | 288 | 0.032 | — | — | 0.064 | 0.016 | 0.008 | 0.0001 |
| Quadro RTX 8000 | NVIDIA | Turing | 48 GB | 672 | 0.131 | — | — | 0.261 | — | 0.0163 | 0.0005 |
| RTX 5090 | NVIDIA | Blackwell | 32 GB | 1,792 | 0.209 | 0.419 | 1.68 | 0.838 | 0.105 | 0.105 | 0.0016 |
| RTX 5080 | NVIDIA | Blackwell | 16 GB | 960 | 0.113 | 0.225 | 0.9 | 0.45 | 0.0563 | 0.0563 | 0.0009 |
| RTX 5070 Ti | NVIDIA | Blackwell | 16 GB | 896 | 0.0879 | 0.176 | 0.703 | 0.352 | 0.0439 | 0.0439 | 0.0007 |
| RTX 4090 | NVIDIA | Ada Lovelace | 24 GB | 1,008 | 0.165 | 0.33 | — | 0.661 | 0.0826 | 0.0826 | 0.0013 |
| RTX 4080 SUPER | NVIDIA | Ada Lovelace | 16 GB | 736 | 0.104 | 0.209 | — | 0.418 | 0.0522 | 0.0522 | 0.0008 |
| RTX 4080 | NVIDIA | Ada Lovelace | 16 GB | 717 | 0.0975 | 0.195 | — | 0.39 | 0.0487 | 0.0487 | 0.0008 |
| RTX 4070 Ti | NVIDIA | Ada Lovelace | 12 GB | 504 | 0.0802 | 0.16 | — | 0.321 | 0.0401 | 0.0401 | 0.0006 |
| RTX 4070 | NVIDIA | Ada Lovelace | 12 GB | 504 | 0.0583 | 0.117 | — | 0.233 | 0.0291 | 0.0291 | 0.0005 |
| RTX 4060 Ti | NVIDIA | Ada Lovelace | 16 GB | 288 | 0.0441 | 0.0883 | — | 0.177 | 0.0221 | 0.0221 | 0.0003 |
| RTX 3090 Ti | NVIDIA | Ampere | 24 GB | 1,008 | 0.08 | — | — | 0.32 | 0.04 | 0.04 | 0.0006 |
| RTX 3090 | NVIDIA | Ampere | 24 GB | 936 | 0.071 | — | — | 0.284 | 0.0356 | 0.0356 | 0.0006 |
| RTX 3080 Ti | NVIDIA | Ampere | 12 GB | 912 | 0.0682 | — | — | 0.273 | 0.0341 | 0.0341 | 0.0005 |
| RTX 3080 | NVIDIA | Ampere | 10 GB | 760 | 0.0595 | — | — | 0.238 | 0.0298 | 0.0298 | 0.0005 |
| RTX 3070 | NVIDIA | Ampere | 8 GB | 448 | 0.0406 | — | — | 0.163 | 0.0203 | 0.0203 | 0.0003 |
| RTX 3060 | NVIDIA | Ampere | 12 GB | 360 | 0.0254 | — | — | 0.102 | 0.0127 | 0.0127 | 0.0002 |
| RTX 2080 Ti | NVIDIA | Turing | 11 GB | 616 | 0.0538 | — | — | 0.215 | — | 0.0134 | 0.0004 |
| RTX 4090D | NVIDIA | Ada Lovelace | 24 GB | 1,008 | 0.147 | 0.294 | — | 0.588 | 0.0735 | 0.0735 | 0.0011 |
| RTX 5060 Ti | NVIDIA | Blackwell | 16 GB | 448 | 0.0474 | 0.0949 | 0.38 | 0.19 | 0.0237 | 0.0237 | 0.0004 |
| RTX 4070 SUPER | NVIDIA | Ada Lovelace | 12 GB | 504 | 0.071 | 0.142 | — | 0.284 | 0.0355 | 0.0355 | 0.0006 |
| RTX 3070 Ti | NVIDIA | Ampere | 8 GB | 608 | 0.0435 | — | — | 0.174 | 0.0217 | 0.0217 | 0.0003 |
| RTX 3060 Ti | NVIDIA | Ampere | 8 GB | 448 | 0.0324 | — | — | 0.13 | 0.0162 | 0.0162 | 0.0003 |
| Titan RTX | NVIDIA | Turing | 24 GB | 672 | 0.131 | — | — | 0.261 | — | 0.0163 | 0.0005 |
| Instinct MI455X | AMD | CDNA 5 | 432 GB | 23,300 | 5.03 | 20.1 | 40.3 | 5.03 | — | 0.315 | 0.005 |
| Instinct MI355X | AMD | CDNA 4 | 288 GB | 8,000 | 2.52 | 5.03 | 10.1 | 5.03 | — | 0.157 | 0.0786 |
| Instinct MI350X | AMD | CDNA 4 | 288 GB | 8,000 | 2.31 | 4.61 | 9.23 | 4.61 | — | 0.144 | 0.0721 |
| Instinct MI325X | AMD | CDNA 3 | 256 GB | 6,000 | 1.31 | 2.61 | — | 2.61 | 0.654 | 0.163 | 0.163 |
| Instinct MI300X | AMD | CDNA 3 | 192 GB | 5,300 | 1.31 | 2.61 | — | 2.61 | 0.654 | 0.163 | 0.163 |
| Instinct MI250X | AMD | CDNA 2 | 128 GB | 3,277 | 0.383 | — | — | 0.383 | — | 0.0957 | 0.0957 |
| Instinct MI250 | AMD | CDNA 2 | 128 GB | 3,277 | 0.362 | — | — | 0.362 | — | 0.0905 | 0.0905 |
| Instinct MI210 | AMD | CDNA 2 | 64 GB | 1,638 | 0.181 | — | — | 0.181 | — | 0.0453 | 0.0453 |
| Instinct MI100 | AMD | CDNA | 32 GB | 1,229 | 0.185 | — | — | 0.185 | — | 0.0461 | 0.0115 |
| Radeon PRO W7900 | AMD | RDNA 3 | 48 GB | 864 | 0.123 | — | — | 0.123 | — | 0.0613 | 0.0019 |
| Radeon RX 7900 XTX | AMD | RDNA 3 | 24 GB | 960 | 0.123 | — | — | 0.123 | — | 0.0614 | 0.0019 |
| Gaudi 3 | Intel | Gaudi | 128 GB | 3,700 | 1.83 | 1.83 | — | — | — | 0.0287 | — |
| Gaudi 2 | Intel | Gaudi | 96 GB | 2,450 | 0.432 | 0.865 | — | — | — | 0.011 | — |
| Data Center GPU Max 1550 | Intel | Xe-HPC | 128 GB | 3,277 | 0.839 | — | — | 1.68 | 0.419 | 0.0524 | 0.0524 |
| TPU v6e (Trillium) | Google TPU | TPU | 32 GB | 1,640 | 0.918 | — | — | 1.84 | — | — | — |
| TPU v5p | Google TPU | TPU | 95 GB | 2,765 | 0.459 | — | — | 0.918 | — | — | — |
| TPU v5e | Google TPU | TPU | 16 GB | 819 | 0.197 | — | — | 0.394 | — | — | — |
| Trainium2 | AWS Trainium | Trainium | 96 GB | 2,900 | 0.667 | 1.3 | — | — | — | 0.181 | — |
| Trainium | AWS Trainium | Trainium | 32 GB | 820 | 0.19 | 0.19 | — | — | — | 0.0475 | — |
| Inferentia2 | AWS Trainium | Inferentia | 32 GB | 820 | 0.19 | 0.19 | — | 0.38 | — | 0.0475 | — |