掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
浮動小数点の扱いについて (ID:47090)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
>重要なのは，電卓の入力欄に，目的の値がセットされているかを確認することではないかと思います． ものはついででやってみました． -3.9223669552E+06 を電卓の入力にコピペすると，以下のような表示になりました． -3.9223669522 + 6 つまり，ここで， = (イコール) キーを押すと -3.9223669522 + 6 という計算結果が表示されることになります． マイクロソフトが提供している電卓ですから「くせ」があるのでしょう． それに文句を言っても致し方ありません． 使う方が自分で確認することだと思います．
←解決時は質問者本人がここをチェックしてください。
更新する
戻る
掲示板システム
Copyright 2021 Takeshi Okamoto All Rights Reserved.