「浮動小数点数」の版間の差分
Administrator (トーク | 投稿記録) |
Administrator (トーク | 投稿記録) 編集の要約なし |
||
| 7行目: | 7行目: | ||
== 主な浮動小数点数の形式 == | == 主な浮動小数点数の形式 == | ||
* [[FP32]] = 32ビットの[[コンピューター]]の世界でもっとも一般的な形式です。 | * [[FP32]] = 32ビットの[[コンピューター]]の世界でもっとも一般的な形式です。 | ||
* [[TF32]] = 19ビットで[[FP32]] | * [[TF32]] = 19ビットで[[FP32]]に近い精度を追求したものです。 | ||
* [[FP16]] = 16ビットで可能な限り高精度を追求したものです。 | * [[FP16]] = 16ビットで可能な限り高精度を追求したものです。 | ||
* [[BF16]] = 16ビットで[[FP32]]との相互変換速度を追求したものです。 | * [[BF16]] = 16ビットで[[FP32]]との相互変換速度を追求したものです。 | ||