掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
TIBSQLで正確な数値が取得できない件について (ID:27517)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
通りすがりさんありがとうございます。 今回は、計算処理後に値を丸めるので、２進数での演算による誤差は無視して処理をしようと思います。 今後、精度の必要な場面でその様に演算させたいと思っていますが、皆さんは小数を含む演算を行うときは必ず誤差が発生しないように処理をしてらっしゃいますか？それとも、ケースバイケースで対応してらっしゃいますか？ 既に、解決済みにしてますがよろしくお願いします。
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.