「FP16」の版間の差分
ナビゲーションに移動
検索に移動
Administrator (トーク | 投稿記録) |
Administrator (トーク | 投稿記録) |
||
| (同じ利用者による、間の1版が非表示) | |||
| 1行目: | 1行目: | ||
| − | '''FP16''' | + | '''FP16'''とは、[[IEEE 754]]に定められる「[[半精度浮動小数点数]]」の事です。 |
| + | |||
| + | [[パソコン]]で一般的な[[IEEE 754]]の[[単精度浮動小数点数]]や[[倍精度浮動小数点]]の親戚ともいう存在で「16ビットで可能な限り高精度」を目指しているという特徴があります。 | ||
| + | |||
| + | ちなみにFP16はFP32との型変換が遅いという欠点があります。 | ||
| + | 「FP16で計算してFP32に戻す」などといった処理は遅い傾向にあります。 | ||
== 関連項目 == | == 関連項目 == | ||
| − | |||
* [[bfloat16]] | * [[bfloat16]] | ||
* [[FP8]]（[[低精度浮動小数点数]]） | * [[FP8]]（[[低精度浮動小数点数]]） | ||
| + | |||
| + | [[category: 人工知能]] | ||
