「FP16」の版間の差分

2024年8月26日 (月) 07:34時点における最新版

FP16とは、IEEE 754に定められる「半精度浮動小数点数」の事です。

パソコンで一般的なIEEE 754の単精度浮動小数点数や倍精度浮動小数点の親戚ともいう存在で「16ビットで可能な限り高精度」を目指しているという特徴があります。

ちなみにFP16はFP32との型変換が遅いという欠点があります。「FP16で計算してFP32に戻す」などといった処理は遅い傾向にあります。

2023年10月2日 (月) 02:36時点における版編集 Administrator (トーク \| 投稿記録) ビューロクラット、インターフェース管理者、管理者 17,980 回編集編集の要約なし ← 古い編集		2024年8月26日 (月) 07:34時点における最新版編集取り消し Administrator (トーク \| 投稿記録) ビューロクラット、インターフェース管理者、管理者 17,980 回編集編集の要約なし
11行目:		11行目:

	[[category: 人工知能]]		[[category: 人工知能]]
			[[category: 浮動小数点数]]