計算式の結果がオーバーフローするのはなんで？ (ID:83571)

名前

ホームページ(ブログ、Twitterなど)のURL (省略可)

本文 私は感覚でしか理解していませんが……。 オーバーフローのエラーが出たときにヘルプを見ると分かりますが、 「数値計算で数値が内部的に整数型として処理されている場合に、 計算結果が整数型の範囲を超えています。」 というのがあります。 また演算子のヘルプを見ると 「数値データ型の式だけから構成される単純な加算では、 演算結果 result のデータ型は、通常最も精度の高い式のデータ型と同じになります。」 つまり結果を入れる変数がLong型でも、式の中がInteger型だけなら演算結果はInteger型になり、 その際Integerの範囲を越えているからオーバーフローするんです。 Integer型の変数のどちらかをCLngすれば起こらなくなります。