差分

ナビゲーションに移動 検索に移動

TF32

977 バイト追加, 2023年8月16日 (水) 03:55
ページの作成:「'''TF32'''とは、NVIDIAが策定した19ビット長の単精度浮動小数点数です。 名称に「32」と付いているので32ビット長と勘違い…」
'''TF32'''とは、[[NVIDIA]]が策定した19ビット長の[[単精度浮動小数点数]]です。

名称に「32」と付いているので32ビット長と勘違いしやすい点に注意する必要があります。
紛らわしいことに、この「32」は[[パソコン]]での[[プログラミング]]で古くから利用されている「[[FP32]](32ビットのfloat型)と[[互換性]]がある」という意味です。

TF32はFP32と同じく仮数部に10ビットを採用しており「FP32と同等の数値範囲を表現できる」という特徴があります。

[[Google]]が[[TensorFlow]]向けに開発した「[[BF16]]」と非常に似ています。なぜ新しくTF32を作ったのかが謎すぎるくらいです。

TF32形式は同社のAmpereアーキテクチャのGPUに導入されました。
最近では一部の[[ARM]]系[[SoC]]もTF32に対応しており、それらでは[[推論]]が若干高速化されます。

案内メニュー