12桁以上の演算をするには？

じゅーす 2003-05-09 02:03:59 No: 107040

12桁以上の演算をする場合には、どのようにすればよいのでしょうか？
12345678901 を 7 で割ったあまりを求めたいのですが。

初歩的なことですみません。

nanashi 2003-05-09 03:00:03 No: 107041

変数の型がIntegerとかLongとかになってませんか？
Double型にして下さい。

じゅーす 2003-05-09 03:30:56 No: 107042

Double型でやってはいるのですが。。。

Dim a As Double
Dim b As Double
Dim c As Double

a = 12345678901#
b = 7#

c = a Mod b ← ここでオーバーフローとなります。

説明がつたなくてすみません。
よろしくお願いします。

ビビ 2003-05-09 06:15:39 No: 107043

MODでDouble型は使えないので、別の方法を考えるしかないです。
例えば、元の数を7で割って、答えを元の数から引くとか。

ビビ 2003-05-09 06:23:15 No: 107044

あ、割った後に小数点以下をIntやFix関数で取り出してから、その数を
元の値から引いてください。

TKO 2003-05-11 01:56:02 No: 107045

整数を対象とした１４桁程度までの計算では通貨型に変換した方が誤差は少ない様です。下記の例ではText1とText2にデータを入れてText5に余りを表示しています。１０進数に変換すると大きな数字が使えますが誤差が出て答えが合いませんでした。

Private Sub Command1_Click()
    Dim c
    c = CCur(Text1.Text) / CCur(Text2.Text)  '通貨型変数
    Text3.Text = c
    Text4.Text = Int(c)
    Text5.Text = CCur(Text1.Text) - CCur(Text4.Text) * CCur(Text2.Text)
End Sub

Say 2003-05-11 10:58:44 No: 107046

あまり参考にならないかもしれませんが・・・

「10進数から2進数に変換する効率のいい方法」に
デシマル型使った例をあげてます。

Say 2003-05-11 11:03:06 No: 107047

↑は、あまり参考にならなさそうなので、参考になる例を・・・

    Dim buf1, buf2, buf3
    buf1 = "79228162514264337593543950330"
    buf2 = "1000000000000"
    buf3 = Split((CDec(buf1) / CDec(buf2)), ".")

    MsgBox "あまりは " & CStr(CDec(buf1) - CDec(buf3(0)) * CDec(buf2))