「Binary16」の版間の差分
Administrator (トーク | 投稿記録) 編集の要約なし |
Administrator (トーク | 投稿記録) 編集の要約なし |
||
| 21行目: | 21行目: | ||
*[[bfloat16]] | *[[bfloat16]] | ||
[[category: | [[category: コンピューター・グラフィックス]] | ||
[[category: 浮動小数点数]] | [[category: 浮動小数点数]] | ||
2024年8月26日 (月) 07:36時点における最新版
binary16（ばいなりーじゅうろく）とは、IEEE 754-2008に定められた半精度浮動小数点数の形式のひとつ。
コンピューターグラフィックス界隈で「半精度浮動小数点数」という場合はこの「binary16」を指していることが多い。一方で人工知能界隈で「半精度浮動小数点数」という場合は「bfloat16」を指していることが多い。
binary16[編集 | ソースを編集]
特徴[編集 | ソースを編集]
16ビットの割に精度は高い。
単精度浮動小数点数や倍精度浮動小数点数などとの型変換は非常に負荷が高く（処理が遅く）、また変換時の誤差も大きい。
ディープカラーやHDRといった画像処理など、最初から最後までbinary16を貫き通せる用途向け。