掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
掛け算の制限 (ID:116821)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
ヘルプは見ましたか? 数値計算で数値が内部的に整数型として処理されている場合に、計算結果が整数型の範囲を超えています。 と書かれています。 Integer × Integer の時、内部的にはIntegerとして処理されます。 Integerの範囲は -32768 〜 32767、計算結果は1000000なので Integerの範囲を超えている為、オーバーフローとなります。 CDblでDoubleとして扱えば範囲内に収まるのでオーバーフローしません。 別にDoubleじゃなくても、Long型でも範囲内に収まるのでオーバーフローしません。
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2020 Takeshi Okamoto All Rights Reserved.