掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
小数点以下切捨てについて (ID：22414)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
みなさんありがとうござます。 処理の度に小数点13位以下を切り捨てとなると、 その13以下の値が、誤差なのか正当な数値なのか分からない限り、どうしようもないようです。 又、HOtaさんがおっしゃっておられた、BCD型を調べて、使用してみたところ、関数電卓の精度に限りなく近くなりました。 もう少し調べてみたいと思います。 返信が遅くなって申し訳ありませんでした。
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.