ここでは 10 進数の実数を「固定小数点数」形式の 2 進数に変換する方法について学びます。
固定小数点数は小数点の位置が固定されているという形式で、具体的には次のようにして求めます。
なお負の実数は2 の補数演算によって計算できるので、ここでは 0 以上の場合のみを考えます。
A を 0 以上の 10 進数の実数とする
逆に 2 進数を 10 進数の実数に基数変換します。
では例として 10 進数 12.625 を 2 進数(整数部の桁数 4 ビット、小数部の有効桁数 4 ビット)に変換してみましょう。
A = 12.625 とする
逆に 0b1100.1010 を 10 進数の実数 0 以上の実数に変換してみます。
もう少しむずかしい例として、今度は 10 進数 123.123 を 2 進数(整数部の桁数 8 ビット、小数以下の有効桁数 4 ビット)に変換してみます。
A = 123.123 とする
逆に 0b01111011.0010 を 10 進数の実数 0 以上の実数に変換してみます。
なお変換後の値 123.125 が元の 123.123 と異なる理由は丸め誤差が生じたためです。