掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
整数演算で立方根を求めるには? (ID:56682)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
立方根の100万倍の値を得て何に使うのかがさっぱり判らんので答えようが無いんですよ。 後で演算する目的にも使えんし。 原理的に不可能なことはなにをどうやろうと不可能。 ・元数値の有効数字が10桁しかないのにそれ以上の精度を求めることに意味が無い。 ・途中の演算における有効数字に 32bit しか使えないのに、 結果は 32bit 以上の有効数字を求めているし。 表示するだけ? 簡単な対策: 元数値を8倍して演算し、結果を 1/2 すれば2進数での小数点以下1桁が得られる。 元数値を64倍すれば結果を 1/4 すれば2進数小数点以下2桁が得られる。
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2020 Takeshi Okamoto All Rights Reserved.