IT資格用語解説応用情報技術者試験・算術演算と精度
単精度
更新日:
用語解説
単精度は、数値を表すのに、基本の長さ(一般に32ビット)を使う精度の区分です。
■ 試験で押さえるポイント
浮動小数点数では、IEEE 754の32ビットの形式(符号1、指数8、仮数23ビット)です。
倍精度より、使うメモリが少なく、計算も速くなります。
■ 過去問での着眼点
倍精度の半分の長さで、精度も範囲も狭い点を押さえます。
例: 大量の画像データを扱うとき、メモリを節約するために単精度で計算します。
更新日:
単精度は、数値を表すのに、基本の長さ(一般に32ビット)を使う精度の区分です。
■ 試験で押さえるポイント
浮動小数点数では、IEEE 754の32ビットの形式(符号1、指数8、仮数23ビット)です。
倍精度より、使うメモリが少なく、計算も速くなります。
■ 過去問での着眼点
倍精度の半分の長さで、精度も範囲も狭い点を押さえます。
例: 大量の画像データを扱うとき、メモリを節約するために単精度で計算します。