掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
1.0365の2乗を正しく計算するには? (ID:147523)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
例えばDoubleで計算したものをDecimalにしていませんか? とりあえず、どのように計算したら1.0743322499999999となるか、コードを見せてもらえますか? 以下を試してみましたが、bの値はちゃんと1.07433225Dになっていました。 Dim a As Decimal = 1.0365 Dim b As Decimal = a ^ 2 MsgBox(b)
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2020 Takeshi Okamoto All Rights Reserved.