La memoria propria della GPU. Pesi del modello, attivazioni e KV cache devono starci dentro (o essere suddivisi tra più GPU), quindi spesso è la VRAM a decidere quali GPU puoi usare.
Miglior rapporto qualità/prezzo ora
Ordinate per $ per GB di VRAM all'ora al prezzo on demand più basso di ogni GPU.