note: 浮動小数点数 - けいブログ

浮動小数点数の最大・最小値や有効桁数(精度)についての備忘録です。

一般的な標準フォーマットであるIEEE-754によると、符号部が1bit。指数部(E)が8bit。仮数部(M)が23bit。

特殊ケース(E=0, E=255)を除いた値の決め方は以下の通り。

$2^{(E-127)} \cdot (1 + \frac{M}{2^{23}})$

最大は $E=254, M={2^{23}}-1$ を考えるので、およそ $3.4028 \cdot 10^{38}$

最小は $E=1, M=1$ を考えるので、およそ $1.1754 \cdot 10^{-38}$

M=1を考えるので、 $2^{-23} \approx 1.1920 \cdot 10^{-7}$

10進数で小数点以下7桁くらいが表現できる最小の数であることがわかる。

ここで有効桁数について調べると、2進数で24桁(仮数部23桁とプラスする1)あるので、10進数では $log_{10}{2^{24}} \approx 7.2247$ 桁。

指数部のbit数をA、仮数部の桁数をBとしたときに：