数値計算の誤差と範囲超過

数値計算の誤差と範囲超過は、コンピュータが有限の桁数で数を扱うために起こる、計算結果のずれや、表せる範囲を超える現象です。

■ 試験で押さえるポイント

• 丸め誤差は表せない桁を丸めて、打切り誤差は無限に続く計算を途中で止めて生じます。

• 桁落ちは値の近い数どうしの引き算で、有効数字が大きく減る現象です。

• 情報落ちは、絶対値の大きい数に小さい数を足したとき、小さい数が結果に反映されない現象です。

■ 選択肢での判断ポイント

表せる最大値を超えるのがオーバーフロー、0に近過ぎて表せないのがアンダーフローです。

例: $1.234567-1.234566$のように近い値を引くと、上の桁が打ち消し合って有効数字が1桁しか残らない桁落ちになります。