掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
演算結果の誤差に関して (ID:36444)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
すいません。 浮動小数の演算についてあまり理解していませんでした。 過去ログ見ましたが、同じようなのが多くのっていました。 調べる前に質問してすいません。 とにかく浮動小数の演算はどうしても誤差が出てしまうのですね。 通りすがりさんのサイトにのっているCurrencyを使用すると、サイトの演算を行って、おまじないを入れない状態でも誤差は出ませんでした。 ただDouble型で同じ計算をすると誤差がでました。 対策としてはCurrencyを使用するのが無難なのでしょうか？ ただCurrencyを使用しても誤差は出てしまうのですよね？ (あまり大きい数字でなければでない？) 今は例えばTrunc(演算結果=3) Trunc(演算結果=2.99999・・・・) となってしまった場合に3と2という結果になってしまうので、 Trunc(演算結果+0.1) などという対策をいれるようにしています。 過去ログとかを見ましたが、結局どういった対策をすべきでしょうか？ よろしくお願いします。
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.