掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
1.0365の2乗を正しく計算するには？ (ID:147523)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
例えばDoubleで計算したものをDecimalにしていませんか？ とりあえず、どのように計算したら1.0743322499999999となるか、コードを見せてもらえますか？ 以下を試してみましたが、bの値はちゃんと1.07433225Dになっていました。 Dim a As Decimal = 1.0365 Dim b As Decimal = a ^ 2 MsgBox(b)
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.