掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
Doubleの計算について (ID:20285)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
>なぜこのような数字になるのでしょうか？ 最後の桁を「切り捨て」すると、1減ることがあるのは浮動小数点演算の宿命かな。 1000倍した時に 2053220.00000000..... ではなくて 2053219.99999999..... になっているんでしょうね。 これがいやなら、Double型ではなく、誤差を出来るだけ小さくした Currency型を使うべきでしょう。
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.