掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
1.0365の2乗を正しく計算するには？ (ID:147533)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
解決して何よりです。 > 今回はべき乗している箇所でしたが、加減乗除すべての演算でdoubleにキャストされて誤差が出ることを考慮すべきなんでしょうか？ 例えば、iがIntegerだとした場合、例えばi / 3という式だけを考えた場合、この式はDoubleで評価されるということを何かで見た覚えがあります。 そういう意味では、Roundなど複数の型のオーバーロードがあるメソッドを使うときは、今回のようにDecimalに明示的にキャストするか、いっそのこと計算結果を一度Decimal型に入れることが必要だと思います。
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.