「半精度浮動小数点数」を編集中
ナビゲーションに移動
検索に移動
この編集を取り消せます。 下記の差分を確認して、本当に取り消していいか検証してください。よろしければ変更を保存して取り消しを完了してください。
最新版 | 編集中の文章 | ||
22行目: | 22行目: | ||
この手法はRGB表現で32ビット整数より1.5倍の48ビットの帯域を必要とし、絵は綺麗になるがレンダリングが死ぬほど遅いという問題点を抱えていた。 | この手法はRGB表現で32ビット整数より1.5倍の48ビットの帯域を必要とし、絵は綺麗になるがレンダリングが死ぬほど遅いという問題点を抱えていた。 | ||
− | 一方、[[ATI]](現[[AMD]])からは「RGB各10ビットの浮動小数点数で表す」という手法が登場した(Radeon X三桁シリーズ)。この手法は計30ビットであるため当時の[[ハードウェア]]への負荷の差はなく有利であったが、「10ビット刻み」は[[プログラマ]] | + | 一方、[[ATI]](現[[AMD]])からは「RGB各10ビットの浮動小数点数で表す」という手法が登場した(Radeon X三桁シリーズ)。この手法は計30ビットであるため当時の[[ハードウェア]]への負荷の差はなく有利であったが、「10ビット刻み」は[[プログラマ]]が死ぬほど扱いにくいという問題点を抱えていた。 |
まさに典型的なNVIDIAとAMDの争いのひとつであり、時代背景的には[[PS3]]と[[Xbox 360]]がモロに直撃していた。 | まさに典型的なNVIDIAとAMDの争いのひとつであり、時代背景的には[[PS3]]と[[Xbox 360]]がモロに直撃していた。 |