掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
Format関数の数値丸めについて (ID:149530)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
いわゆる数値における「丸め」の問題ですね． [ 浮動小数点数の丸めルーチン ] http://docwiki.embarcadero.com/RADStudio/Sydney/ja/%E6%B5%AE%E5%8B%95%E5%B0%8F%E6%95%B0%E7%82%B9%E6%95%B0%E3%81%AE%E4%B8%B8%E3%82%81%E3%83%AB%E3%83%BC%E3%83%81%E3%83%B3 > Delphi 6, Delphi 2007 でソースを確認しましたが、最終的にアセンブラになってい 上のオンラインヘルプに書いてある通り，FPU が処理しています デフォルトで四捨五入になっています． 変更は可能です (常に切り捨てにするとか)． ただし，Delphi の丸めに関係する関数類 (四捨五入とか) の挙動が変わります． 方法は，Delphi のバージョンによって，EXE のビット数によって違います． 以下の SSE と FPU 関係の記述と記事内のリンクの記事を参考にしてください． [ 08_関数の引数が，数値を使用した式の時に発生する現象 ] http://mrxray.on.coocan.jp/Delphi/plSamples/890_CalcError.htm#08 [ 09_FPU のコントロールワード ( 制御ワード ) と SafeLoadLibrary ] http://mrxray.on.coocan.jp/Delphi/plSamples/890_CalcError.htm#09
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.