「.NETのfloat.Epsilon定数は計算機イプシロンではない」を編集中
ナビゲーションに移動
検索に移動
この編集を取り消せます。 下記の差分を確認して、本当に取り消していいか検証してください。よろしければ変更を保存して取り消しを完了してください。
最新版 | 編集中の文章 | ||
16行目: | 16行目: | ||
https://oku.edu.mie-u.ac.jp/~okumura/algo/ | https://oku.edu.mie-u.ac.jp/~okumura/algo/ | ||
− | 速攻で[[C言語]]からC#に[[移植]]した(ほぼ[[コピペ]]しただけ)。 | + | 速攻で[[C言語]]からC#に[[移植]]した(ほぼ[[コピペ]]しただけ)。<source lang="csharp"> |
− | |||
− | < | ||
using System; | using System; | ||
48行目: | 46行目: | ||
} | } | ||
} | } | ||
− | </ | + | </source> |
− | 計算機イプシロンの定番の[[アルゴリズム]]といえば、変数をひたすら2で割り続け、ゼロになった瞬間のひとつ前を捉えるというもの。「1以上」という条件はコンピューターの指数と仮数の組み合わせで表現される浮動小数点数では、1未満だと指数部だけを使ってどこまでも小さくなってしまうためであり、なんとしても仮数部を使おうということらしい。 | + | 計算機イプシロンの定番の[[アルゴリズム]]といえば、変数をひたすら2で割り続け、ゼロになった瞬間のひとつ前を捉えるというもの。「1以上」という条件はコンピューターの指数と仮数の組み合わせで表現される浮動小数点数では、1未満だと指数部だけを使ってどこまでも小さくなってしまうためであり、なんとしても仮数部を使おうということらしい。<source> |
− | < | ||
static double MachineEpsilon() | static double MachineEpsilon() | ||
{ | { | ||
64行目: | 61行目: | ||
return eps; | return eps; | ||
} | } | ||
− | </ | + | </source> |
== 備考 == | == 備考 == | ||
実行環境(主に[[CPU]]の違い)により計算結果が変化する点に注意すること。 | 実行環境(主に[[CPU]]の違い)により計算結果が変化する点に注意すること。 | ||
− | [[アーキテクチャ]] | + | [[アーキテクチャ]]がいっぱい[[ARM]]が主体の[[Xamarin]]系は要注意。 |
[[category: .NET]] | [[category: .NET]] | ||
[[category: Mono]] | [[category: Mono]] | ||
[[category: Xamarin]] | [[category: Xamarin]] |