「TF32」の版間の差分
Administrator (トーク | 投稿記録) 編集の要約なし |
Administrator (トーク | 投稿記録) 編集の要約なし |
||
| 2行目: | 2行目: | ||
名称に「32」と付いているので32ビット長と勘違いしやすい点に注意する必要があります。 | 名称に「32」と付いているので32ビット長と勘違いしやすい点に注意する必要があります。 | ||
紛らわしいことに、この「32」は[[パソコン]]での[[プログラミング]]で古くから利用されている「[[FP32]](32ビットのfloat型)と[[互換性]]がある」という意味です。 | |||
TF32はFP32と同じく仮数部に10ビットを採用しており「FP32と同等の数値範囲を表現できる」という特徴があります。 | TF32はFP32と同じく仮数部に10ビットを採用しており「FP32と同等の数値範囲を表現できる」という特徴があります。 | ||