掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
小数点以下切捨てについて (ID:22402)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
お世話になっております。 浮動小数点の切捨てについて、質問です。 小数点１３位以下を切り捨てる処理を行っております。 切捨ては小数点の位置から、文字列として処理を行い、ダブルに戻す処理を行っております。 Arg1: Double; UsWork: String; UsTen : Integer; Arg1 := 0.000002 / 12; UsWok := FormatFloat('',Arg1); UsTen := Pos('.',UsWok); Result := StrToFloat(Copy(UsWok,1,UsTen + Arg2)) 当初上記の方法で行っていたのですが、指数表記の場合うまく動かなくなりました。 小数点以下切捨ての方法としてどのような方法を取るのが、正しいのかどなたか、ご教授ください。 よろしくお願いいたします。 ちなみに、 Arg1 := 0.000002 / 12; UsWok := FloatToStrF(Arg1,ffFixed,18,18); UsTen := Pos('.',UsWok); Result := StrToFloat(Copy(UsWok,1,UsTen + Arg2)) こんな方法は正しいのでしょうか。
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.