「Binary16」の版間の差分
ナビゲーションに移動
検索に移動
Administrator (トーク | 投稿記録) (ページの作成:「'''binary16'''（ばいなりーじゅうろく）とは、IEEE 754-2008に定められた半精度浮動小数点数の形式のひとつ。 コンピューター…」) |
Administrator (トーク | 投稿記録) |
||
| 1行目: | 1行目: | ||
'''binary16'''（ばいなりーじゅうろく）とは、IEEE 754-2008に定められた[[半精度浮動小数点数]]の形式のひとつ。 | '''binary16'''（ばいなりーじゅうろく）とは、IEEE 754-2008に定められた[[半精度浮動小数点数]]の形式のひとつ。 | ||
| − | + | コンピューターグラフィックス界隈で「半精度浮動小数点数」という場合はこの「binary16」を指していることが多い。一方で[[人工知能]]界隈で「半精度浮動小数点数」という場合は「[[bfloat16]]」を指していることが多い。 | |
| − | |||
| − | == binary16 == | + | ==binary16== |
| − | |||
| − | |||
| − | |||
| − | == 関連項目 == | + | *符号ビット: 1 ビット |
| − | * [[半精度浮動小数点数]] | + | *[[指数]]部の幅: 5 ビット |
| − | * [[binary16]] | + | *[[仮数]]部の幅＝精度: 11 (明示的には10ビット) |
| − | * [[bfloat16]] | + | |
| + | == 特徴 == | ||
| + | 16ビットの割に精度は高い。 | ||
| + | |||
| + | [[単精度浮動小数点数]]や[[倍精度浮動小数点数]]などとの型変換は非常に負荷が高く（処理が遅く）、また変換時の誤差も大きい。 | ||
| + | |||
| + | [[ディープカラー]]や[[HDR]]といった画像処理など、最初から最後までbinary16を貫き通せる用途向け。 | ||
| + | |||
| + | ==関連項目== | ||
| + | |||
| + | *[[半精度浮動小数点数]] | ||
| + | *[[binary16]] | ||
| + | *[[bfloat16]] | ||
2022年6月8日 (水) 08:11時点における版
binary16（ばいなりーじゅうろく）とは、IEEE 754-2008に定められた半精度浮動小数点数の形式のひとつ。
コンピューターグラフィックス界隈で「半精度浮動小数点数」という場合はこの「binary16」を指していることが多い。一方で人工知能界隈で「半精度浮動小数点数」という場合は「bfloat16」を指していることが多い。
binary16
特徴
16ビットの割に精度は高い。
単精度浮動小数点数や倍精度浮動小数点数などとの型変換は非常に負荷が高く（処理が遅く）、また変換時の誤差も大きい。
ディープカラーやHDRといった画像処理など、最初から最後までbinary16を貫き通せる用途向け。
