「ブロック浮動小数点数」の版間の差分
Administrator (トーク | 投稿記録) 編集の要約なし |
Administrator (トーク | 投稿記録) 編集の要約なし |
||
| (同じ利用者による、間の1版が非表示) | |||
| 4行目: | 4行目: | ||
そこで「指数部は共有し、複数のブロックで仮数部だけを可変にする」という節約法が編み出されました。 | そこで「指数部は共有し、複数のブロックで仮数部だけを可変にする」という節約法が編み出されました。 | ||
とくに[[人工知能]]の計算で使われる[[行列]]データは、多くの場合「同じ層のデータなら、数値の大きさの範囲が似通っている」という性質があります。つまり「指数部はほぼ同じ値」なので「何度も書くのは無駄」だということになります。それなら共有すればいいじゃんという結論に至ったようです。 | とくに[[人工知能]]の計算で使われる[[行列]]データは、多くの場合「同じ層のデータなら、数値の大きさの範囲が似通っている」という性質があります。つまり「指数部はほぼ同じ値」なので「何度も書くのは無駄」だということになります。それなら共有すればいいじゃんという結論に至ったようです。 | ||
| 9行目: | 10行目: | ||
[[category: ブロック浮動小数点数]] | [[category: ブロック浮動小数点数]] | ||
[[category: 人工知能]] | |||