2021-01-02から1日間の記事一覧
浮動小数点数の最大・最小値や有効桁数(精度)についての備忘録です。 32bit float bit表現 一般的な標準フォーマットであるIEEE-754によると、 符号部が1bit。指数部(E)が8bit。仮数部(M)が23bit。 特殊ケース(E=0, E=255)を除いた値の決め方は以下の通り。 …
浮動小数点数の最大・最小値や有効桁数(精度)についての備忘録です。 32bit float bit表現 一般的な標準フォーマットであるIEEE-754によると、 符号部が1bit。指数部(E)が8bit。仮数部(M)が23bit。 特殊ケース(E=0, E=255)を除いた値の決め方は以下の通り。 …