「Binary16」の版間の差分
Administrator (トーク | 投稿記録) ページの作成:「'''binary16'''（ばいなりーじゅうろく）とは、IEEE 754-2008に定められた半精度浮動小数点数の形式のひとつ。 コンピューター…」 |
Administrator (トーク | 投稿記録) 編集の要約なし |
||
| (同じ利用者による、間の3版が非表示) | |||
| 1行目: | 1行目: | ||
'''binary16'''（ばいなりーじゅうろく）とは、IEEE 754-2008に定められた[[半精度浮動小数点数]]の形式のひとつ。 | '''binary16'''（ばいなりーじゅうろく）とは、IEEE 754-2008に定められた[[半精度浮動小数点数]]の形式のひとつ。 | ||
コンピューターグラフィックス界隈で「半精度浮動小数点数」という場合はこの「binary16」を指していることが多い。一方で[[人工知能]]界隈で「半精度浮動小数点数」という場合は「[[bfloat16]]」を指していることが多い。 | |||
== binary16 == | ==binary16== | ||
== 関連項目 == | *符号ビット: 1 ビット | ||
* [[半精度浮動小数点数]] | *[[指数]]部の幅: 5 ビット | ||
* [[binary16]] | *[[仮数]]部の幅＝精度: 11 (明示的には10ビット) | ||
* [[bfloat16]] | |||
== 特徴 == | |||
16ビットの割に精度は高い。 | |||
[[単精度浮動小数点数]]や[[倍精度浮動小数点数]]などとの型変換は非常に負荷が高く（処理が遅く）、また変換時の誤差も大きい。 | |||
[[ディープカラー]]や[[HDR]]といった画像処理など、最初から最後までbinary16を貫き通せる用途向け。 | |||
==関連項目== | |||
*[[半精度浮動小数点数]] | |||
*[[binary16]] | |||
*[[bfloat16]] | |||
[[category: コンピューター・グラフィックス]] | |||
[[category: 浮動小数点数]] | |||
2024年8月26日 (月) 07:36時点における最新版
binary16（ばいなりーじゅうろく）とは、IEEE 754-2008に定められた半精度浮動小数点数の形式のひとつ。
コンピューターグラフィックス界隈で「半精度浮動小数点数」という場合はこの「binary16」を指していることが多い。一方で人工知能界隈で「半精度浮動小数点数」という場合は「bfloat16」を指していることが多い。
binary16[編集 | ソースを編集]
特徴[編集 | ソースを編集]
16ビットの割に精度は高い。
単精度浮動小数点数や倍精度浮動小数点数などとの型変換は非常に負荷が高く（処理が遅く）、また変換時の誤差も大きい。
ディープカラーやHDRといった画像処理など、最初から最後までbinary16を貫き通せる用途向け。