掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
整数演算で立方根を求めるには？ (ID:56683)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
・元数値の有効数字が１０桁しかないのにそれ以上の精度を求めることに意味が無い。 ・途中の演算における有効数字に 32bit しか使えないのに、 結果は 32bit 以上の有効数字を求めているし。 求められているのは、小数点以下5〜6桁の精度ですよ 32bit符号付整数の最大値の立方根の100万倍は32bit符号付整数で表せますよ。 ＃ 実際に計算できるかどうかは別問題ですが。
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.