「TF32」を編集中
ナビゲーションに移動
検索に移動
この編集を取り消せます。 下記の差分を確認して、本当に取り消していいか検証してください。よろしければ変更を保存して取り消しを完了してください。
最新版 | 編集中の文章 | ||
5行目: | 5行目: | ||
名称に「32」と付いているので32ビット長と勘違いしやすい点に注意する必要があります。 | 名称に「32」と付いているので32ビット長と勘違いしやすい点に注意する必要があります。 | ||
− | + | 紛らわしいことに、この「32」は[[パソコン]]での[[プログラミング]]で古くから利用されている「[[FP32]](32ビットのfloat型)と[[互換性]]がある」という意味です。 | |
TF32はFP32と同じく仮数部に10ビットを採用しており「FP32と同等の数値範囲を表現できる」という特徴があります。 | TF32はFP32と同じく仮数部に10ビットを採用しており「FP32と同等の数値範囲を表現できる」という特徴があります。 |