FP16

提供: MonoBook
2023年10月2日 (月) 02:36時点におけるAdministrator (トーク | 投稿記録)による版
(差分) ← 古い版 | 最新版 (差分) | 新しい版 → (差分)
ナビゲーションに移動 検索に移動

FP16とは、IEEE 754に定められる「半精度浮動小数点数」の事です。

パソコンで一般的なIEEE 754単精度浮動小数点数倍精度浮動小数点の親戚ともいう存在で「16ビットで可能な限り高精度」を目指しているという特徴があります。

ちなみにFP16はFP32との型変換が遅いという欠点があります。 「FP16で計算してFP32に戻す」などといった処理は遅い傾向にあります。

関連項目[編集 | ソースを編集]