next up previous
: 型宣言と機械精度 : 誤差の評価 : 機械精度

桁落ち、積み残し

課題2

1)$a,b$ がほぼ等しい場合、$a+b,a-b$ を数値計算して誤差を評価しなさい。 これによる誤差を桁落ちと呼ぶ。

2)$a \gg b$ の場合、$x=a+b$ とし次に $y=x-a$を数値計算して誤差を評価しなさい。 これによる誤差を積み残しと呼ぶ。



Kiyohide Nomura 平成16年5月11日