「.NETのfloat.Epsilon定数は計算機イプシロンではない」の版間の差分
imported>Administrator 編集の要約なし |
imported>Administrator |
||
| 9行目: | 9行目: | ||
要約すると「浮動小数点演算の丸の相対誤差の上限(丸め誤差発生時にズレるであろう最大値)」であり「[[計算機イプシロン]]」ではない。 | 要約すると「浮動小数点演算の丸の相対誤差の上限(丸め誤差発生時にズレるであろう最大値)」であり「[[計算機イプシロン]]」ではない。 | ||
まじかよ。名前紛らわしすぎだろ。 | |||
== 解決 == | == 解決 == | ||