「FP16」の版間の差分

提供: MonoBook
ナビゲーションに移動 検索に移動
 
1行目: 1行目:
−
'''FP16'''とは、IEEE 754に定められる「[[半精度浮動小数点数]]」の事である。
+
'''FP16'''とは、[[IEEE 754]]に定められる「[[半精度浮動小数点数]]」の事です。
 +
 
 +
[[パソコン]]で一般的な[[IEEE 754]]の[[単精度浮動小数点数]]や[[倍精度浮動小数点]]の親戚ともいう存在で「16ビットで可能な限り高精度」を目指しているという特徴があります。
 +
 
 +
ちなみにFP16はFP32との型変換が遅いという欠点があります。
 +
「FP16で計算してFP32に戻す」などといった処理は遅い傾向にあります。
  
 
== 関連項目 ==
 
== 関連項目 ==

2023年10月2日 (月) 02:36時点における最新版

FP16とは、IEEE 754に定められる「半精度浮動小数点数」の事です。

パソコンで一般的なIEEE 754の単精度浮動小数点数や倍精度浮動小数点の親戚ともいう存在で「16ビットで可能な限り高精度」を目指しているという特徴があります。

ちなみにFP16はFP32との型変換が遅いという欠点があります。 「FP16で計算してFP32に戻す」などといった処理は遅い傾向にあります。

関連項目[編集 | ソースを編集]

「https://monobook.org/w/index.php?title=FP16&oldid=18952」から取得