1.0365の二乗を正しく計算するには?

解決


Aoi  2012-03-27 18:50:33  No: 103249

vs2005のvb.netにて小数のべき乗時正しい値が得られません
具体的には
1.0365の2乗を計算したいのですが…
1.07433225となるところが1.0743322499999999となってしまいます
変数はdecimalで定義しているので誤差は出ないと思っていたのですが…
どなたか解決策をご教示下さい


Aoi  2012-03-27 19:25:46  No: 103250

vb.net用の掲示板に掲載し直したので解決とさせて下さい


※返信する前に利用規約をご確認ください。

※Google reCAPTCHA認証からCloudflare Turnstile認証へ変更しました。






  このエントリーをはてなブックマークに追加