8,454
回編集
差分
TF32
,編集の要約なし
'''TF32'''とは、[[NVIDIA]]が策定した19ビット長の[[単精度浮動小数点数]]です。
TF32形式は同社の[[Ampereアーキテクチャ]]（[[GeForce RTX 30シリーズ]]）の[[GPU]]から導入されました。
最近では一部の[[ARM]]系[[SoC]]もTF32に対応しており、それらでは[[推論]]が若干高速化されます。
名称に「32」と付いているので32ビット長と勘違いしやすい点に注意する必要があります。
TF32はFP32と同じく仮数部に10ビットを採用しており「FP32と同等の数値範囲を表現できる」という特徴があります。
[[Google]]が[[TensorFlow]]向けに開発した「[[BF16]]」と非常に似ています。なぜ新しくTF32を作ったのかが謎すぎるくらいです。」と非常に似ています。[[Ampereアーキテクチャ]]ではTF32と同時にBF16にも対応したので、なぜ新しくTF32を作ったのかが謎です。