メインメニューを開く

差分

Binary16

384 バイト追加, 2023年8月16日 (水) 03:33
編集の要約なし
'''binary16'''(ばいなりーじゅうろく)とは、IEEE 754-2008に定められた[[半精度浮動小数点数]]の形式のひとつ。
コンピューターグラフィックス界隈で「半精度浮動小数点数」という場合はこの「binary16」を指していることが多い。一方でコンピューターグラフィックス界隈で「半精度浮動小数点数」という場合はこの「binary16」を指していることが多い。一方で[[人工知能]]界隈で「半精度浮動小数点数」という場合は「[[bfloat16]]」を指していることが多い。
== binary16 ==* 符号ビット: 1 ビット* [[指数]]部の幅: 5 ビット* [[仮数]]部の幅=精度: 11 (明示的には10ビット)
*符号ビット: 1 ビット*[[指数]]部の幅: 5 ビット*[[仮数]]部の幅=精度: 11 (明示的には10ビット) == 特徴 ==16ビットの割に精度は高い。 [[単精度浮動小数点数]]や[[倍精度浮動小数点数]]などとの型変換は非常に負荷が高く(処理が遅く)、また変換時の誤差も大きい。 [[ディープカラー]]や[[HDR]]といった画像処理など、最初から最後までbinary16を貫き通せる用途向け。 == 関連項目 ==* [[半精度浮動小数点数]]* [[binary16]]* [[bfloat16]] [[category: 人工知能]]