「16の２乗」の結果が18になるのはなぜ？

解決

---

らりばどと申します。
奇妙と思われる現象に出くわしました。
何らか解決の糸口を探しています。
助けて下さい。

別記事としてchar型変数に格納されている16進数を
int型に変換しようとした時のことです。
質問をあげている間に一時しのぎをしようとユーザ関数を作りました。
chra型変数の最後尾から、１６の乗数を以って乗算していこうとする
ものです。

しかし計算が合わず原因を探していたところ、１６の乗数を算出する
ことろで結果が思惑と違っていることに気付きました。

試しに、
> wk1 = 16 ^ 1;
> wk2 = 16 ^ 2;
と実行してみると、
wk1 = 17
wk2 = 18
という結果が返ってきます。

何らか修正パッチ等を適用する必要があるのでしょうか。

開発環境はVisualStudio6.0のCD-ROMからVBとVCを
インストールしました。またSP2も適用しています。
しかしVBのバージョン情報には「SP2」と表示されていますが、
VCのバージョン情報には表示がありません。
もしかして適用されていないのでしょうか。
SP適用は何度やっても結果は同じです。

編集 削除

---

すみません、サービスパックの版数を間違えていました。
ＳＰ２ではなくＳＰ５です。

編集 削除

---

＞奇妙と思われる現象に出くわしました。

見たところ，何も奇妙な点はありませんが。


＞> wk1 = 16 ^ 1;
＞> wk2 = 16 ^ 2;
＞と実行してみると、
＞wk1 = 17
＞wk2 = 18
＞という結果が返ってきます。

当然です。
^はBitwise exclusive-ORを意味する演算子ですから。
ref) ISO/IEC 9899:1999 6.5.11 Bitwise exclusive-OR

累乗を計算するのには，math.hのpow関数を使います。
ref) ISO/IEC 9899:1999 7.12.7.4 The pow function

恐らく，VBのヘルプを見て勘違いしたのでしょう。
自分が見ているヘルプがVBのものかVC++のものかは区別した方がよいですよ。


でもって，変換関数の一例。
＃デバッグを全くしていないので注意です。
/* xchar_to_int
    16進数字を数値に変換
*/
int xchar_to_int (char ch)
{
#if 1
    /* ASCIIを仮定 */
    if ('0' <= ch && ch <= '9') return ch - '0';
    if ('A' <= ch && ch <= 'F') return ch - 'A' + 10;
    if ('a' <= ch && ch <= 'f') return ch - 'a' + 10;
    return -1;
#else
    /* 汎用の場合 */
    switch (ch) {
    case    '0':
        return 0;
    case    '1':
        return 1;
    case    '2':
        return 2;
    case    '3':
        return 3;
    case    '4':
        return 4;
    case    '5':
        return 5;
    case    '6':
        return 6;
    case    '7':
        return 7;
    case    '8':
        return 8;
    case    '9':
        return 9;
    case    'A':
    case    'a':
        return 10;
    case    'B':
    case    'b':
        return 11;
    case    'C':
    case    'c':
        return 12;
    case    'D':
    case    'd':
        return 13;
    case    'E':
    case    'e':
        return 14;
    case    'F':
    case    'f':
        return 15;
    }
    return -1;
#endif
}

/* xstr_to_int
    16進数字列を数値に変換
*/
int xstr_to_int (const char * str)
{
    int r = 0, t;
    int sign = 1; /* 符号フラグ */

    if (str == 0) return 0; /* NULL チェック */
    if (*str == '-') { /* 負の場合 */
        sign = -1;
        ++str;
    }

    /* 変換処理 */
    while ((t = xchar_to_int(*str++)) != -1) {
        r <<= 4;
        r |= t;
    }

    return r * sign;
}

編集 削除

---

＞YuOさん

お騒がせしてすみません。
ヘルプを見間違えていました。
pow関数にて正常動作を確認しました。
ありがとうございます。

編集 削除

---

解決後ではありますが、

＞VCのバージョン情報には表示がありません。
こんなフリーソフトもあります。

http://www.vector.co.jp/soft/win95/prog/se222455.html

編集 削除

---

名前

ホームページ(ブログ、Twitterなど)のURL (省略可)

本文

←解決時は質問者本人がここをチェックしてください。