Binary16

提供: MonoBook
2022年6月8日 (水) 08:11時点におけるAdministrator (トーク | 投稿記録)による版
ナビゲーションに移動 検索に移動

binary16(ばいなりーじゅうろく)とは、IEEE 754-2008に定められた半精度浮動小数点数の形式のひとつ。

コンピューターグラフィックス界隈で「半精度浮動小数点数」という場合はこの「binary16」を指していることが多い。一方で人工知能界隈で「半精度浮動小数点数」という場合は「bfloat16」を指していることが多い。

binary16

  • 符号ビット: 1 ビット
  • 指数部の幅: 5 ビット
  • 仮数部の幅=精度: 11 (明示的には10ビット)

特徴

16ビットの割に精度は高い。

単精度浮動小数点数倍精度浮動小数点数などとの型変換は非常に負荷が高く(処理が遅く)、また変換時の誤差も大きい。

ディープカラーHDRといった画像処理など、最初から最後までbinary16を貫き通せる用途向け。

関連項目