浮動小数点

2025年3月26日 (水) 14:26時点における37.252.244.42 (トーク)による版 (ページの作成:「例えば… 0.00314→3.14*10^-3 とか… 小数点が整数の一の位の下につかなくなるから、浮動なのかな? コンピューターは二進数を使うから… 0.011 は 3/8の事だけど… 1.1*10^-10 とかね。 {{DEFAULTSORT:ふとう~}} Category:数学」)
(差分) ← 古い版 | 最新版 (差分) | 新しい版 → (差分)

例えば…

0.00314→3.14*10^-3

とか…

小数点が整数の一の位の下につかなくなるから、浮動なのかな?

コンピューターは二進数を使うから…

0.011 は 3/8の事だけど…

1.1*10^-10

とかね。