「浮動小数点数」の版間の差分

提供:MonoBook
ページの作成:「'''浮動小数点数'''(ふどうしょうすう、英: floating point number)とは、小数点を含む数値を表現する方法の一つで、数値を内部的…」
 
編集の要約なし
 
(同じ利用者による、間の1版が非表示)
6行目: 6行目:


== 主な浮動小数点数の形式 ==
== 主な浮動小数点数の形式 ==
* [[FP32]] = 32ビットの[[コンピューター]]の世界でもっとも一般的な形式です。
* [[FP32]] = 32ビットの[[コンピューター]]の世界でもっとも一般的な形式です。
* [[TF32]] = 19ビットで[[FP32]]に近い精度を追求したものです。
* [[FP16]] = 16ビットで可能な限り高精度を追求したものです。
* [[FP16]] = 16ビットで可能な限り高精度を追求したものです。
* [[BF16]] = 16ビットで[[FP32]]との相互変換速度を追求したものです。
* [[BF16]] = 16ビットで[[FP32]]との相互変換速度を追求したものです。

2024年8月26日 (月) 08:03時点における最新版

浮動小数点数(ふどうしょうすう、英: floating point number)とは、小数点を含む数値を表現する方法の一つで、数値を内部的に仮数部(mantissa)と指数部(exponent)に分けて表現する方式の総称です。

仮数部と指数部の組み合わせにより小数点の位置が変動(浮動)するため、このような名称となっています。

小数点の位置が常に一定位置のものは「固定小数点数」と呼ばれる。

主な浮動小数点数の形式[編集 | ソースを編集]

  • FP32 = 32ビットのコンピューターの世界でもっとも一般的な形式です。
  • TF32 = 19ビットでFP32に近い精度を追求したものです。
  • FP16 = 16ビットで可能な限り高精度を追求したものです。
  • BF16 = 16ビットでFP32との相互変換速度を追求したものです。
  • FP8 = 8ビットで可能な限り高精度を追求したものです。