1.0365の2乗を正しく計算するには？ (ID:147532)

名前

ホームページ(ブログ、Twitterなど)のURL (省略可)

本文 指数部分は(830/12-(67*12+2)/12)…(830/12-806/12)=2.0になるはずです おっしゃる通りで12で割る部分は1つに出来るんですが、式自体仕様になっているので変えられないんです 解決しました ご指摘通りにMath.Roundの第一引数をCdecしてあげたら1.07433225Dになりました 勝手にdoubleにキャストされてしまうのはどういう場合なんでしょうか？ 今回はべき乗している箇所でしたが、加減乗除すべての演算でdoubleにキャストされて誤差が出ることを考慮すべきなんでしょうか？