「Binary16」の版間の差分
ナビゲーションに移動
検索に移動
Administrator (トーク | 投稿記録) |
Administrator (トーク | 投稿記録) |
||
| 17行目: | 17行目: | ||
==関連項目== | ==関連項目== | ||
| − | |||
*[[半精度浮動小数点数]] | *[[半精度浮動小数点数]] | ||
*[[binary16]] | *[[binary16]] | ||
*[[bfloat16]] | *[[bfloat16]] | ||
| + | |||
| + | [[category: 人工知能]] | ||
2023年8月16日 (水) 03:33時点における最新版
binary16（ばいなりーじゅうろく）とは、IEEE 754-2008に定められた半精度浮動小数点数の形式のひとつ。
コンピューターグラフィックス界隈で「半精度浮動小数点数」という場合はこの「binary16」を指していることが多い。一方で人工知能界隈で「半精度浮動小数点数」という場合は「bfloat16」を指していることが多い。
binary16[編集 | ソースを編集]
特徴[編集 | ソースを編集]
16ビットの割に精度は高い。
単精度浮動小数点数や倍精度浮動小数点数などとの型変換は非常に負荷が高く（処理が遅く）、また変換時の誤差も大きい。
ディープカラーやHDRといった画像処理など、最初から最後までbinary16を貫き通せる用途向け。
