メインメニューを開く

差分

Binary16

357 バイト追加, 2022年6月8日 (水) 08:11
編集の要約なし
'''binary16'''(ばいなりーじゅうろく)とは、IEEE 754-2008に定められた[[半精度浮動小数点数]]の形式のひとつ。
コンピューターグラフィックス界隈で「半精度浮動小数点数」という場合はこの「binary16」を指していることが多い。一方でコンピューターグラフィックス界隈で「半精度浮動小数点数」という場合はこの「binary16」を指していることが多い。一方で[[人工知能]]界隈で「半精度浮動小数点数」という場合は「[[bfloat16]]」を指していることが多い。
== binary16 ==* 符号ビット: 1 ビット* [[指数]]部の幅: 5 ビット* [[仮数]]部の幅=精度: 11 (明示的には10ビット)
*符号ビット: 1 ビット*[[指数]]部の幅: 5 ビット*[[仮数]]部の幅=精度: 11 (明示的には10ビット) == 特徴 ==16ビットの割に精度は高い。 [[単精度浮動小数点数]]や[[倍精度浮動小数点数]]などとの型変換は非常に負荷が高く(処理が遅く)、また変換時の誤差も大きい。 [[ディープカラー]]や[[HDR]]といった画像処理など、最初から最後までbinary16を貫き通せる用途向け。 == 関連項目 == * [[半精度浮動小数点数]]* [[binary16]]* [[bfloat16]]