計算機数学I（第2回）

今回は、整数の表現として、符号なし整数と、2の補数を用いた符号つき整数について説明しました。そして、引き続いて浮動小数の概要を説明しました。IEEE浮動小数点規格や、浮動小数演算に伴う誤差などの詳細については今回は省きましたが、興味のある人は昨年の授業内容を参考にしていただければと思います。

次回は多倍長整数の説明に進みます。

授業サポートページ：https://www.math.tsukuba.ac.jp/~terui/compmath1-2016