掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
剰余算のオーバーフローを回避するには? (ID:115136)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
Sayさん メッセージありがとうございます。 >私としては、どうやって「OSの電卓」で >719の79乗(≒4.8×10の225乗)を正確に計算したか? >のほうに興味がありますが・・・ − 関数電卓で計算しました。 「正確」ではないと思いますが 自分の中では結果がOKだったので 良しとしてしまいました。 >VBでやるにはバイト配列(文字列でも可)を用いて >自前で繰り上がりや繰り下がりを行いながら >「そういう計算をする関数を自作する」ことになります。 > >手計算するならどうするか考え、 >それをロジックに落とせばいいでしょう。 − わかりました。 自作でがんばってやってみます。 ありがとうございました。
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2020 Takeshi Okamoto All Rights Reserved.