IT資格用語解説基本情報技術者試験・数値解析
丸め誤差
更新日:
用語解説
丸め誤差は、実数や演算結果を有限桁の数値形式で表すため、表現可能な近い値へ丸めることで生じる誤差です。浮動小数点では多くの10進小数を2進有限桁で厳密に表せません。
■ 試験で押さえるポイント
0.1は2進数では循環小数となるため近似値で保存され、が内部的に0.3と完全一致しない場合があります。
多数回の加算・乗算で誤差が蓄積し、非常に大きい値と小さい値の加算では小さい値が失われる情報落ちが起こります。
近い大きさの値を引くと有効桁が失われる桁落ちが起こり、元の丸め誤差が相対的に増幅されます。式変形や安定なアルゴリズムで避けます。
計算順序、補償和、十分な精度、10進型、許容差比較を使います。表示桁を増やすだけでは内部表現の精度は改善しません。
■ 選択肢での判断ポイント
有限桁表現による誤差で、無限過程を途中で止める打切り誤差とは原因が異なります。桁落ち・情報落ちも関連します。
例: 10進の0.1を2進浮動小数点へ格納すると近似値になり、の結果が相当になることがあります。