「半精度浮動小数点数」の版間の差分
Administrator (トーク | 投稿記録) 編集の要約なし |
Administrator (トーク | 投稿記録) |
||
| 11行目: | 11行目: | ||
== 概要 == | == 概要 == | ||
半精度浮動小数点数は主に[[コンピューターグラフィックス]]界隈で流行りの「[[HDR]]」で使われている数値形式である。 | 半精度浮動小数点数は主に[[コンピューターグラフィックス]]界隈で流行りの「[[HDR]]」で使われている数値形式である。 | ||
[[機械学習]] | |||
一方で[[機械学習]]とは若干相性が悪いらしく、別途「[[bfloat16]]」というもの作られ、現在ではそちらが主流らしいぞ。 | |||
=== 事の経緯 === | === 事の経緯 === | ||