「半精度浮動小数点数」の版間の差分
imported>Administrator |
imported>Administrator |
||
| 17行目: | 17行目: | ||
この手法は計32ビットであるため現状の[[ハードウェア]]への負荷の差はなく有利であったが、10ビット刻みとか常識的に考えて[[プログラマ]]が死ぬほど扱いにくいという問題点を抱えていた。 | この手法は計32ビットであるため現状の[[ハードウェア]]への負荷の差はなく有利であったが、10ビット刻みとか常識的に考えて[[プログラマ]]が死ぬほど扱いにくいという問題点を抱えていた。 | ||
まさに典型的なNVIDIAとAMDの争いのひとつである。当時ゲーム開発で広く使われていた「[[C言語]]に半精度浮動小数点数などない」という問題もあったが、NVIDIAが勝手に「half型」を拡張搭載した言語を出したりしたため、最終的には[[ハードウェア]]技術の進歩でNVIDA方式を力押しする手法が一般化し、そのフォーマットを標準化した[[OpenEXR]]なるものが登場して現在に至っている。現在では[[OpenGL]]や[[Direct3D]]にも採用されている。 | |||
== IEEE 754形式 == | == IEEE 754形式 == | ||