計算機内部での数値表現

これは一般に機種により異なるが、 現在標準的な ANSI/IEEE-754 規格を元に説明する。 ディジタル計算機内部では、全ての情報が 0,1 の2進数で表示される。 2進数の1桁を ビット(bit)と呼ぶ。最近の電子計算機では、情 報を8ビットづつまとめて扱い、この単位を バイト(byte)とよぶ。ちな みに文字情報を扱う場合、英数字は1バイト、漢字は2バイトで表される。

• 整数型では最初の 1bit は符号に使われるので、
  1. 2byte 整数では -32768 から +32767 まで
  2. 4byte 整数では $-2^{31}$ から $2^{31}-1$ まで($\pm$ 約 20億)
  3. 8byte 整数では $-2^{63}$ から $2^{63}-1$ まで($\pm$ 約 $8 \times 10^{18}$)
• 実数型は $f= a \times 2^{n}$ と表される。ただし、$1/2 \le \vert a\vert<1$,$n$ は符号付き整数。$a$ を仮数部、$n$ を指数部と呼ぶ。
  1. 4byte 実数(単精度)では指数部 8 ビット、仮数部 24 ビット。 10進数での精度約 7桁、数値の範囲は最小約 $10^{-38}$〜 最大 $10^{38}$
  2. 8byte 実数(倍精度)では指数部 11 ビット、仮数部 53 ビット。 10進数での精度約 16桁。数値の範囲は最小約 $10^{-308}$〜 最大 $10^{308}$