1.0365の二乗を正しく計算するには？
解決
Aoi
2012-03-27 09:50:33
No:
103249
IP:
[192.*.*.*]
vs2005のvb.netにて小数のべき乗時正しい値が得られません
具体的には
1.0365の2乗を計算したいのですが…
1.07433225となるところが1.0743322499999999となってしまいます
変数はdecimalで定義しているので誤差は出ないと思っていたのですが…
どなたか解決策をご教示下さい
編集
削除
Aoi
2012-03-27 10:25:46
No:
103250
IP:
[192.*.*.*]
vb.net用の掲示板に掲載し直したので解決とさせて下さい
編集
削除