掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
1.0365の2乗を正しく計算するには？ (ID:147532)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
指数部分は(830/12-(67*12+2)/12)…(830/12-806/12)=2.0になるはずです おっしゃる通りで12で割る部分は1つに出来るんですが、式自体仕様になっているので変えられないんです 解決しました ご指摘通りにMath.Roundの第一引数をCdecしてあげたら1.07433225Dになりました 勝手にdoubleにキャストされてしまうのはどういう場合なんでしょうか？ 今回はべき乗している箇所でしたが、加減乗除すべての演算でdoubleにキャストされて誤差が出ることを考慮すべきなんでしょうか？
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.