「Binary16」の版間の差分
Administrator (トーク | 投稿記録) 編集の要約なし |
Administrator (トーク | 投稿記録) 編集の要約なし |
||
| 17行目: | 17行目: | ||
==関連項目== | ==関連項目== | ||
*[[半精度浮動小数点数]] | *[[半精度浮動小数点数]] | ||
*[[binary16]] | *[[binary16]] | ||
*[[bfloat16]] | *[[bfloat16]] | ||
[[category: 人工知能]] | |||
2023年8月16日 (水) 03:33時点における版
binary16（ばいなりーじゅうろく）とは、IEEE 754-2008に定められた半精度浮動小数点数の形式のひとつ。
コンピューターグラフィックス界隈で「半精度浮動小数点数」という場合はこの「binary16」を指していることが多い。一方で人工知能界隈で「半精度浮動小数点数」という場合は「bfloat16」を指していることが多い。
binary16
特徴
16ビットの割に精度は高い。
単精度浮動小数点数や倍精度浮動小数点数などとの型変換は非常に負荷が高く（処理が遅く）、また変換時の誤差も大きい。
ディープカラーやHDRといった画像処理など、最初から最後までbinary16を貫き通せる用途向け。