IT資格用語解説応用情報技術者試験・算術演算と精度
桁落ち
更新日:
用語解説
桁落ちは、値がほぼ等しい2つの数の引き算で、上位の桁が打ち消し合い、有効数字の桁数が大きく減ってしまう誤差です。
■ 試験で押さえるポイント
例えば1.234567−1.234560=0.000007となり、有効数字が1桁になります。
計算の順序を変えたり、式を変形したりして避けます。
■ 過去問での着眼点
近い値の減算で起きるのが桁落ち、大きな数と小さな数の加減算で起きるのが情報落ちです。
例: 2次方程式の解の公式で、近い値どうしの引き算を避けるように式を変形します。