掲示板システム
ホーム
アクセス解析
カテゴリ
ログアウト
計算時のオーバーフローについて (ID:116474)
名前
ホームページ(ブログ、Twitterなど)のURL (省略可)
本文
変数Zのデータが2つあります。 この2つのデータの一部分の平均を計算したいと思っています。 データ①は44696個,データ②は29896個あります。 オーバーフローする部分のソースを載せます。 Dim z1(100000) As Single,z2(100000) As Single Nx = Text1: Ny = Text2 (Nx=296,Ny=151 Mx = Text4: My = Text5 Mx=296,My=101 となっています。) '①と②の平均値の算出 結果をデータ②と入れ替える For i = 1 To Nx z2(i) = (z1((Nx * (Ny - 1)) + i) + z2(i)) / 2 Next i この平均を計算するときに、i=1で z1((Nx * (Ny - 1)) + i)がオーバーフローとなります。 適当にNy=100としてやると、計算できます。 説明がザツで申し訳ありませんが、よろしくお願いします。
←解決時は質問者本人がここをチェックしてください。
戻る
掲示板システム
Copyright 2020 Takeshi Okamoto All Rights Reserved.