メインメニューを開く

差分

TF32

4 バイト除去, 2023年8月16日 (水) 03:57
編集の要約なし
名称に「32」と付いているので32ビット長と勘違いしやすい点に注意する必要があります。
紛らわしいことに、この「32」は紛らわしいことに、この「32」は[[パソコン]]での[[プログラミング]]で古くから利用されている「[[FP32]](32ビットのfloat型)と[[互換性]]がある」という意味です。
TF32はFP32と同じく仮数部に10ビットを採用しており「FP32と同等の数値範囲を表現できる」という特徴があります。