今回は、計算機上の数値の表現として、整数と浮動小数を扱いました。
整数では、1ワードのメモリで表現する整数として、符号なし整数を符号つき整数を取り上げ、特に符号つき整数では、2の補数による表現について説明しました。浮動小数は、実数を1ワードのメモリで近似する方法の一つとして紹介し、丸め誤差、マシンイプシロンについても紹介しました。
次回は、複数のメモリでより多くの桁の整数を表す多倍長整数について説明します。
授業サポートページ： https://www.math.tsukuba.ac.jp/~terui/compmath1-2018
0 件のコメント:
コメントを投稿