…
Auch bekannt als: GPU-Speicher
Der eigene Speicher der GPU. Modellgewichte, Aktivierungen und KV-Cache müssen hineinpassen (oder auf mehrere GPUs verteilt werden), daher entscheidet der VRAM oft, welche GPU überhaupt infrage kommt.
Sortiert nach $ pro GB VRAM und Stunde zum jeweils niedrigsten On-Demand-Preis jeder GPU.