掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
1.0365の2乗を正しく計算するには？ (ID:147535)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
こんにちは解決してるのに割り込みます^^; 私の推測ではウォッチ式はObject型で値を格納してると思われます 下記の式を実行すれば格納する型によって演算が変わっていることが よくわかります 以上のことから VBの場合は格納する変数の型さえDecimalにしていれば気にしなくていい^^; と考えていいのではないでしょうか Dim A1 As Double = 1.0365 Dim B1 As Double = 2 Dim A2 As Decimal = 1.0365 Dim B2 As Decimal = 2 Dim A1B1O As Object = A1 ^ B1 Dim A2B2O As Object = A2 ^ B2 Dim A1B1D As Decimal = A1 ^ B1 Dim A2B2D As Decimal = A2 ^ B2
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.