…
Auch bekannt als: bfloat16, halbe Genauigkeit
16-Bit-Formate und der Standard für Training und Betrieb von LLMs. BF16 behält den Wertebereich von FP32 bei geringerer Genauigkeit, was das Training stabiler macht; es setzt Ampere, CDNA 2 oder neuer voraus.
Sortiert nach $ pro PFLOP-Stunde dense FP16 / BF16 zum jeweils niedrigsten On-Demand-Preis jeder GPU.