Rubin
Sortie 2026La génération 2026 de NVIDIA après Blackwell (Vera Rubin NVL72, HGX Rubin NVL8) : 288 GB de HBM4 par GPU et près de quatre fois le débit FP8 dense de Blackwell Ultra.
Toutes les générations que nous suivons, de la plus récente à la plus ancienne. Chacune liste ses GPU avec le prix à la demande le plus bas du jour, les précisions que ses tensor cores exécutent nativement et la mémoire maximale par GPU.
Hopper vs Blackwell →La mémoire maximale et la consommation la plus élevée par GPU de chaque architecture, et son calcul le moins cher du moment.
| Architecture | Fabricant | Année | Mémoire max. | Consommation max. | Précisions natives | Meilleur rapport qualité-prix FP16 |
|---|---|---|---|---|---|---|
| Rubin | NVIDIA | 2026 | 288 GB HBM4 | — | FP4 · FP8 · FP16 / BF16 · TF32 · INT8 | — |
| Blackwell Ultra | NVIDIA | 2025 | 288 GB HBM3e | 1,400 W | FP4 · FP8 · FP16 / BF16 · TF32 · INT8 | $2.00/PFLOP·h (B300 SXM) |
| Blackwell | NVIDIA | 2024–2025 | 192 GB HBM3e | 1,200 W | FP4 · FP8 · FP16 / BF16 · TF32 · INT8 | $1.67/PFLOP·h (RTX 5070 Ti) |
| Hopper | NVIDIA | 2022–2024 | 144 GB HBM3e | 1,000 W | FP8 · FP16 / BF16 · TF32 · INT8 | $0.80/PFLOP·h (H100 SXM) |
| Ada Lovelace | NVIDIA | 2022–2024 | 48 GB GDDR6 | 450 W | FP8 · FP16 / BF16 · TF32 · INT8 | $1.05/PFLOP·h (L40S) |
| Ampere | NVIDIA | 2020–2022 | 80 GB HBM2e | 450 W | FP16 / BF16 · TF32 · INT8 | $1.24/PFLOP·h (RTX A4000) |
| Turing | NVIDIA | 2018 | 48 GB GDDR6 | 295 W | FP16 · INT8 | $1.69/PFLOP·h (T4) |
| Volta | NVIDIA | 2017–2019 | 32 GB HBM2 | 300 W | FP16 | $0.80/PFLOP·h (V100 SXM2 32GB) |
| Pascal | NVIDIA | 2016 | 16 GB HBM2 | 250 W | FP16 | $68.2/PFLOP·h (P100) |
| CDNA 5 | AMD | 2026–2027 | 432 GB HBM4 | — | FP4 · FP8 · FP16 / BF16 · INT8 | — |
| CDNA 4 | AMD | 2025 | 288 GB HBM3e | 1,400 W | FP4 · FP8 · FP16 / BF16 · INT8 | $2.38/PFLOP·h (Instinct MI350X) |
| CDNA 3 | AMD | 2023–2024 | 256 GB HBM3e | 1,000 W | FP8 · FP16 / BF16 · TF32 · INT8 | $1.83/PFLOP·h (Instinct MI300X) |
| RDNA 3 | AMD | 2022–2023 | 48 GB GDDR6 | 355 W | FP16 / BF16 · INT8 | — |
| CDNA 2 | AMD | 2021–2022 | 128 GB HBM2e | 560 W | FP16 / BF16 · INT8 | — |
| CDNA | AMD | 2020 | 32 GB HBM2 | 300 W | FP16 / BF16 · INT8 | — |
| Xe-HPC | Intel | 2023 | 128 GB HBM2e | 600 W | FP16 / BF16 · TF32 · INT8 | — |
| Gaudi | Intel | 2022–2024 | 128 GB HBM2e | 900 W | FP8 · FP16 / BF16 | $2.55/PFLOP·h (Gaudi 2) |
| TPU | 2023–2026 | 288 GB HBM | — | FP4 · FP8 · FP16 / BF16 · INT8 | $2.94/PFLOP·h (TPU v6e (Trillium)) | |
| Inferentia | AWS | 2023 | 32 GB HBM2e | — | FP8 · FP16 / BF16 · INT8 | $3.99/PFLOP·h (Inferentia2) |
| Trainium | AWS | 2022–2025 | 144 GB HBM3e | — | FP4 · FP8 · FP16 / BF16 · TF32 | $7.07/PFLOP·h (Trainium) |
La génération 2026 de NVIDIA après Blackwell (Vera Rubin NVL72, HGX Rubin NVL8) : 288 GB de HBM4 par GPU et près de quatre fois le débit FP8 dense de Blackwell Ultra.
La mise à jour 2025 de Blackwell par NVIDIA (B300, GB300) : plus de HBM3e par GPU et un FP4 plus rapide pour l'inférence à grande échelle.
La génération de NVIDIA qui succède à Hopper, des B200 et GB200 en data center aux RTX série 50 et aux cartes RTX PRO. Ajoute des tensor cores FP4 ; les modèles data center réunissent deux puces en un seul GPU.
H100, H200 et GH200. A introduit les tensor cores FP8 avec le Transformer Engine et reste le GPU de data center le plus loué.
RTX série 40, L4, L40S et RTX 6000 Ada. Tensor cores FP8 avec de la mémoire GDDR6 au lieu de HBM, ce qui rend ces cartes bon marché mais limitées par la bande passante.
A100, A10, A40 et RTX série 30. La première génération dotée de tensor cores BF16 et TF32 ; l'A100 a aussi introduit le partitionnement MIG.
T4, RTX série 20 et Quadro RTX. Tensor cores pour le FP16 et l'INT8, mais pas de BF16.
V100 : le premier GPU doté de tensor cores (FP16 uniquement).
P100 : mémoire HBM mais pas de tensor cores. Surtout utile pour du calcul FP32 et FP64 bon marché.
AMD Instinct MI455X, conçu pour les racks Helios de 72 GPU, et le MI430X orienté HPC. Quatre fois le débit FP4 et FP8 de CDNA 4, avec 432 GB de HBM4 par GPU.
AMD Instinct MI350X et MI355X. Ajoute le FP4 et le FP6 aux matrix cores d'AMD, avec 288 GB de HBM3e par GPU.
AMD Instinct MI300X et MI325X, ainsi que l'APU MI300A avec des cœurs CPU sur le même boîtier. Prise en charge du FP8 et plus de mémoire par GPU que les modèles Hopper qu'ils concurrencent.
L'architecture graphique Radeon d'AMD (RX 7900 XTX, Radeon PRO W7900), louée surtout sur les places de marché communautaires.
AMD Instinct MI210 et MI250(X). Très performants en FP64 pour le HPC ; BF16 mais pas de FP8.
AMD Instinct MI100, la première architecture de data center d'AMD dédiée uniquement au calcul.
Intel Data Center GPU Max (Ponte Vecchio), conçu pour le HPC.
Les accélérateurs IA Gaudi 2 et Gaudi 3 d'Intel (issus du rachat de Habana Labs).
Les processeurs tensoriels maison de Google, disponibles à la location uniquement sur Google Cloud.
Les puces d'inférence maison d'AWS, disponibles à la location uniquement sur AWS.
Les puces d'entraînement maison d'AWS, disponibles à la location uniquement sur AWS.
Hopper : le H100 SXM coûte $0.80 par PFLOP-heure en FP16/BF16 dense, à $0.79 par heure GPU. Le classement suit les prix, actualisés toutes les 2 heures.
FP8 : Rubin, Blackwell Ultra, Blackwell, Hopper, Ada Lovelace, CDNA 5, CDNA 4, CDNA 3, Gaudi, TPU, Inferentia, Trainium. FP4 : Rubin, Blackwell Ultra, Blackwell, CDNA 5, CDNA 4, TPU, Trainium. Les architectures plus anciennes peuvent quand même exécuter des modèles FP8 ou FP4, mais sans le gain de vitesse.
Les GPU plus anciens sont souvent moins chers par FLOP et par GB de mémoire, et largement suffisants pour servir des modèles plus petits, faire du fine-tuning LoRA ou des expériences. Vérifiez que la précision dont vous avez besoin est exécutée nativement ; ensuite, c'est une question de prix.
Hopper est l'architecture GPU (H100, H200). Grace Hopper (GH200) est un superchip : le CPU Grace de NVIDIA, basé sur Arm, et un GPU Hopper sur un même module, reliés par NVLink-C2C afin que le GPU puisse aussi utiliser la mémoire du CPU.