こんにちは。
早速ですが質問です。
VB6で次のような計算をしようとしました。
719 ^ 79 mod 3337
ところが「オーバーフロー」のエラーが出てしまいました。
いろいろやってみましたがうまくいきません。
(OSの電卓ではうまくできました)
いい方法があればどなたか教えてください。
私としては、どうやって「OSの電卓」で
719の79乗(≒4.8×10の225乗)を正確に計算したか?
のほうに興味がありますが・・・
VBでやるにはバイト配列(文字列でも可)を用いて
自前で繰り上がりや繰り下がりを行いながら
「そういう計算をする関数を自作する」ことになります。
手計算するならどうするか考え、
それをロジックに落とせばいいでしょう。
Sayさん
メッセージありがとうございます。
>私としては、どうやって「OSの電卓」で
>719の79乗(≒4.8×10の225乗)を正確に計算したか?
>のほうに興味がありますが・・・
− 関数電卓で計算しました。
「正確」ではないと思いますが
自分の中では結果がOKだったので
良しとしてしまいました。
>VBでやるにはバイト配列(文字列でも可)を用いて
>自前で繰り上がりや繰り下がりを行いながら
>「そういう計算をする関数を自作する」ことになります。
>
>手計算するならどうするか考え、
>それをロジックに落とせばいいでしょう。
− わかりました。
自作でがんばってやってみます。
ありがとうございました。