「半精度浮動小数点数」の版間の差分
Administrator (トーク | 投稿記録) |
Administrator (トーク | 投稿記録) 編集の要約なし |
||
| (同じ利用者による、間の1版が非表示) | |||
| 22行目: | 22行目: | ||
この手法はRGB表現で32ビット整数より1.5倍の48ビットの帯域を必要とし、絵は綺麗になるがレンダリングが死ぬほど遅いという問題点を抱えていた。 | この手法はRGB表現で32ビット整数より1.5倍の48ビットの帯域を必要とし、絵は綺麗になるがレンダリングが死ぬほど遅いという問題点を抱えていた。 | ||
一方、[[ATI]]（現[[AMD]]）からは「RGB各10ビットの浮動小数点数で表す」という手法が登場した（Radeon X三桁シリーズ）。この手法は計30ビットであるため当時の[[ハードウェア]]への負荷の差はなく有利であったが、「10ビット刻み」は[[プログラマ]] | 一方、[[ATI]]（現[[AMD]]）からは「RGB各10ビットの浮動小数点数で表す」という手法が登場した（Radeon X三桁シリーズ）。この手法は計30ビットであるため当時の[[ハードウェア]]への負荷の差はなく有利であったが、「10ビット刻み」は[[プログラマ]]が過労死しかねないほど扱いにくいという問題点を抱えていた。 | ||
まさに典型的なNVIDIAとAMDの争いのひとつであり、時代背景的には[[PS3]]と[[Xbox 360]]がモロに直撃していた。 | まさに典型的なNVIDIAとAMDの争いのひとつであり、時代背景的には[[PS3]]と[[Xbox 360]]がモロに直撃していた。 | ||
| 33行目: | 33行目: | ||
* [[binary16]] | * [[binary16]] | ||
* [[bfloat16]] | * [[bfloat16]] | ||
[[category: 浮動小数点数]] | |||