掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
1.0365の2乗を正しく計算するには? (ID:147531)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
以下のようにすると、小数点以下第8位は切り捨てになりますが、 Math.Round((1 + a) ^ ((b - (c * 12 + d)) / 12), 7, MidpointRounding.AwayFromZero) 以下のようにすると小数点以下第8位は切り上げられますので、 Math.Round(CDec((1 + a) ^ ((b - (c * 12 + d)) / 12)), 7, MidpointRounding.AwayFromZero) やはりMath.Roundの第一引数がDoubleとして評価されているようですね。 Decimalで計算したい場合は、計算結果をその都度Decimalにキャストしないと、Doubleのオーバーロードが使われてしまうようですね。
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2020 Takeshi Okamoto All Rights Reserved.