機械精度

実数 1.0 に加えた時、1.0 と異なる結果になるような最小の正の浮動 小数点数 $\epsilon_m$ を機械精度または機械イプシロンという。4byte 実数では、ほぼ $\epsilon_m \approx 3 \times 10^{-8}$ である。これより 小さな相対精度は数値計算では無意味になる。これによる誤差 を丸め誤差という。

計算量の増加に伴い丸め誤差も累積する。計算量が $N$ ならば、全 体の丸め誤差は、 $\sqrt{N} \times \epsilon_m$ の程度で増加する(誤差が無相関 に生じるとランダムウォークの理論が使える)。しかしこれより早く誤差が増大 することがある。