メインメニューを開く

差分

FP16

444 バイト追加, 2023年10月2日 (月) 02:36
編集の要約なし
'''FP16'''とは、IEEE 754に定められる「とは、[[IEEE 754]]に定められる「[[半精度浮動小数点数]]」の事である。」の事です。 [[パソコン]]で一般的な[[IEEE 754]]の[[単精度浮動小数点数]]や[[倍精度浮動小数点]]の親戚ともいう存在で「16ビットで可能な限り高精度」を目指しているという特徴があります。 ちなみにFP16はFP32との型変換が遅いという欠点があります。「FP16で計算してFP32に戻す」などといった処理は遅い傾向にあります。
== 関連項目 ==
 
* [[bfloat16]]
* [[FP8]]([[低精度浮動小数点数]])
 
[[category: 人工知能]]