「半精度浮動小数点数」の版間の差分
imported>Administrator |
Administrator (トーク | 投稿記録) 編集の要約なし |
||
| 1行目: | 1行目: | ||
'''半精度浮動小数点数''' | '''半精度浮動小数点数'''（読み：はんせいどふどうしょうすうてん）とは、浮動小数点の表現方法のひとつで、16ビット形式のものをいう。巷では「FP16」や「Half」などとも呼ばれる。 | ||
IEEE 754- | |||
IEEE 754-2008では「binary16」と命名されている。単に半精度浮動小数点数という場合はほぼ「binary16」を指している。 | |||
== IEEE 754形式 == | |||
IEEE 754標準は'''binary16'''を以下のように定めている。 | |||
* 符号ビット: 1 ビット | |||
* [[指数]]部の幅: 5 ビット | |||
* [[仮数]]部の幅＝精度: 11 (明示的には10ビット) | |||
== 概要 == | == 概要 == | ||
| 18行目: | 25行目: | ||
まさに典型的なNVIDIAとAMDの争いのひとつで時代背景的には[[PS3]]と[[Xbox 360]]がモロに直撃していた。最終的には当時ゲーム開発で広く使われていた「[[C言語]]に半精度浮動小数点数などない」という問題もあったが、NVIDIAが勝手に「half型」を拡張搭載した言語を出したりしたことと、[[ハードウェア]]技術が進歩したことでNVIDA方式を力押しする手法が一般化し、そのフォーマットを標準化した[[OpenEXR]]なるものが登場して現在に至っている。現在では[[OpenGL]]や[[Direct3D]]にも採用されている。 | まさに典型的なNVIDIAとAMDの争いのひとつで時代背景的には[[PS3]]と[[Xbox 360]]がモロに直撃していた。最終的には当時ゲーム開発で広く使われていた「[[C言語]]に半精度浮動小数点数などない」という問題もあったが、NVIDIAが勝手に「half型」を拡張搭載した言語を出したりしたことと、[[ハードウェア]]技術が進歩したことでNVIDA方式を力押しする手法が一般化し、そのフォーマットを標準化した[[OpenEXR]]なるものが登場して現在に至っている。現在では[[OpenGL]]や[[Direct3D]]にも採用されている。 | ||
== 関連項目 == | == 関連項目 == | ||
* [[半精度浮動小数点数]] | |||
* [[binary16]] | |||
* [[bfloat16]] | |||