浮動小数点数の精度(単精度・倍精度)

更新日:

用語解説

浮動小数点数(単精度・倍精度)は、浮動小数点数を表すビット数の違いで、倍精度のほうが精度と表せる範囲が大きくなります。

■ 試験で押さえるポイント

  • 単精度は32ビット(仮数部23ビット)で、10進数でおよそ7桁の精度です。

  • 倍精度は64ビット(仮数部52ビット)で、10進数でおよそ15~16桁の精度です。

  • 0.1などは2進数で正確に表せないため、誤差が生じます。

単精度

倍精度

ビット数

32ビット

64ビット

指数部/仮数部

8ビット/23ビット

11ビット/52ビット

10進の精度

約7桁

約15~16桁

■ 選択肢での判断ポイント

倍精度は単精度より精度と範囲が大きく、記憶量も増えます。

同じ分野の用語