IT資格用語解説応用情報技術者試験・算術演算と精度
倍精度
更新日:
用語解説
倍精度は、単精度の2倍の長さ(一般に64ビット)を使って、数値の範囲と精度を高めた区分です。
■ 試験で押さえるポイント
浮動小数点数では、IEEE 754の64ビットの形式(符号1、指数11、仮数52ビット)です。
誤差の小さい計算が必要な科学技術計算などで使います。
■ 過去問での着眼点
単精度と比べて精度が高い代わりに、メモリと計算時間が増える点を押さえます。
例: 天体の軌道の計算では、誤差がたまらないように倍精度を使います。