オーバーフローになるのは?


kk  2009-02-28 01:07:59  No: 101590

dim i as long

i = 1073741824  OK

i= 1024*1024*1024  オーバーフロー

なぜでしょうか?


2月  2009-02-28 02:57:26  No: 101591

i= 1024*1024*1024 とした場合には
1024が  Integer  と見なされるからかと。

下記の様に数値にも型を明示的に示すために
型宣言文字(サフィックス)&  を付ければ大丈夫かと。

i = 1024& * 1024& * 1024&

データ型 プリフィックス 型宣言文字(サフィックス) 
通貨型 (Currency) cur @ 
倍精度浮動小数点数型 (Double) dbl # 
整数型 (Integer) int % 
長整数型 (Long) lng & 
オブジェクト型 (Object) obj    
単精度浮動小数点数型 (Single) sng ! 

花ちゃんさんの「カテゴリ別一覧」「変数関係」を参考に
させて頂きました。  
http://hanatyan.sakura.ne.jp/


※返信する前に利用規約をご確認ください。

※Google reCAPTCHA認証からCloudflare Turnstile認証へ変更しました。






  このエントリーをはてなブックマークに追加