数値計算の誤差と範囲超過

数値計算の誤差と範囲超過は、有限桁による近似、演算方法、表現可能な最大・最小値の制約から、数学上の値と計算機上の結果がずれる現象です。

■ 試験で押さえるポイント

• 丸め誤差は表現できない下位桁を丸める誤差、打切り誤差は無限級数や反復計算を有限回で止める誤差です。

• 桁落ちは近い値の減算で有効桁が失われ、情報落ちは絶対値が大きく異なる値の加算で小さい値が結果へ反映されない現象です。

• オーバーフローは最大表現範囲を超え、アンダーフローは絶対値が小さ過ぎて0又は低精度の非正規化数へ近づく現象です。

• 式変形、演算順、十分な精度、補償和、範囲検査、対数表現等を使い、整数の桁あふれと浮動小数点のInfinity・NaNも処理します。

■ 選択肢での判断ポイント

近い値の減算は桁落ち、大きな値へ小さな値を足すのは情報落ちです。最大超過はオーバーフロー、0に近過ぎるのはアンダーフローと区別します。

例: 限られた有効桁で$1.234567-1.234566$を計算すると上位桁が相殺され、残る値の相対誤差が大きくなるのが桁落ちです。