「TF32」の版間の差分

(同じ利用者による、間の1版が非表示)

1行目:

'''TF32'''とは、[[NVIDIA]]が策定した19ビット長の[[~~単精度浮動小数点数~~]]です。

'''TF32'''とは、[[NVIDIA]]が策定した19ビット長の[[浮動小数点数]]です。

名称に「32」と付いているので32ビット長と勘違いしやすい点に注意する必要があります。この「32」は[[パソコン]]での[[プログラミング]]で古くから利用されている「[[FP32]]（32ビットのfloat型）と[[互換性]]がある」という意味です。

TF32形式は同社の[[Ampereアーキテクチャ]]（[[GeForce RTX 30シリーズ]]）の[[GPU]]から導入されました。

最近では一部の[[ARM]]系[[SoC]]もTF32に対応しており、それらでは[[推論]]が若干高速化されます。

~~名称に「32」と付いているので32ビット長と勘違いしやすい点に注意する必要があります。~~

紛らわしいことに、この「32」は[[パソコン]]での[[プログラミング]]で古くから利用されている「[[FP32]]（32ビットのfloat型）と[[互換性]]がある」という意味です。

TF32はFP32と同じく仮数部に10ビットを採用しており「FP32と同等の数値範囲を表現できる」という特徴があります。

@@ 1行目: / 1行目: @@
-'''TF32'''とは、[[NVIDIA]]が策定した19ビット長の[[単精度浮動小数点数]]です。
+'''TF32'''とは、[[NVIDIA]]が策定した19ビット長の[[浮動小数点数]]です。
+名称に「32」と付いているので32ビット長と勘違いしやすい点に注意する必要があります。この「32」は[[パソコン]]での[[プログラミング]]で古くから利用されている「[[FP32]]（32ビットのfloat型）と[[互換性]]がある」という意味です。
 TF32形式は同社の[[Ampereアーキテクチャ]]（[[GeForce RTX 30シリーズ]]）の[[GPU]]から導入されました。
 最近では一部の[[ARM]]系[[SoC]]もTF32に対応しており、それらでは[[推論]]が若干高速化されます。
-名称に「32」と付いているので32ビット長と勘違いしやすい点に注意する必要があります。
-紛らわしいことに、この「32」は[[パソコン]]での[[プログラミング]]で古くから利用されている「[[FP32]]（32ビットのfloat型）と[[互換性]]がある」という意味です。
 TF32はFP32と同じく仮数部に10ビットを採用しており「FP32と同等の数値範囲を表現できる」という特徴があります。