単精度

更新日:

用語解説

単精度は、数値を表すのに、基本の長さ(一般に32ビット)を使う精度の区分です。

■ 試験で押さえるポイント

  • 浮動小数点数では、IEEE 754の32ビットの形式(符号1、指数8、仮数23ビット)です。

  • 倍精度より、使うメモリが少なく、計算も速くなります。

■ 過去問での着眼点

倍精度の半分の長さで、精度も範囲も狭い点を押さえます。

例: 大量の画像データを扱うとき、メモリを節約するために単精度で計算します。

同じ分野の用語