剰余算のオーバーフローを回避するには?

解決


kou  2004-07-28 11:51:51  No: 115134  IP: [192.*.*.*]

こんにちは。
早速ですが質問です。

VB6で次のような計算をしようとしました。

  719 ^ 79 mod 3337

ところが「オーバーフロー」のエラーが出てしまいました。
いろいろやってみましたがうまくいきません。
(OSの電卓ではうまくできました)

いい方法があればどなたか教えてください。

編集 削除
Say  2004-07-28 12:17:59  No: 115135  IP: [192.*.*.*]

私としては、どうやって「OSの電卓」で
719の79乗(≒4.8×10の225乗)を正確に計算したか?
のほうに興味がありますが・・・


VBでやるにはバイト配列(文字列でも可)を用いて
自前で繰り上がりや繰り下がりを行いながら
「そういう計算をする関数を自作する」ことになります。

手計算するならどうするか考え、
それをロジックに落とせばいいでしょう。

編集 削除
kou  2004-07-28 12:44:37  No: 115136  IP: [192.*.*.*]

Sayさん
メッセージありがとうございます。

>私としては、どうやって「OSの電卓」で
>719の79乗(≒4.8×10の225乗)を正確に計算したか?
>のほうに興味がありますが・・・

−  関数電卓で計算しました。
    「正確」ではないと思いますが
    自分の中では結果がOKだったので
    良しとしてしまいました。

>VBでやるにはバイト配列(文字列でも可)を用いて
>自前で繰り上がりや繰り下がりを行いながら
>「そういう計算をする関数を自作する」ことになります。
>
>手計算するならどうするか考え、
>それをロジックに落とせばいいでしょう。

−  わかりました。
    自作でがんばってやってみます。
    ありがとうございました。

編集 削除