最終更新日: 2023/11/24

所属コース:

なし

上位ナレッジ:

なし

目的

あなたが浮動小数点数について理解出来る技術者になること

必要性

浮動小数点数はコンピュータで実数を扱うためのデータ形式です。
浮動小数点数の特性を知らないとプログラムの動作に問題が生じる場合があるため、浮動小数点数について技術者は学ぶ必要があります。

内容

学習項目内容
[1] 10進数から2進数への基数変換
  1. 0以上の整数
  2. 負の整数(2の補数)
  3. 0以上かつ1より小さい小数
演習
[2] 固定小数点数
  1. 固定小数点数
演習
[3] 浮動小数点数
  1. 浮動小数点数(IEEE754)
  2. 特殊な値
  3. 丸め誤差と桁落ち
演習
達成度評価試験 過去問