2017-04-24

計算機数学I (2017) 第2回: 計算機上の数値の表現

今回は、計算機上数値の表現について説明しました。主に、1ワードで表す符号なし整数、2の補数による符号つき整数、浮動小数点数(浮動小数)の紹介を行いました。

浮動小数の説明の部分で、現在の計算機で広く用いられている浮動小数規格として "IEEE 754" 浮動小数規格の説明を行いましたが、この説明(口頭とスライド)において、規格名を "IEEE 745" と誤った説明をしてしまいました。お詫びして訂正します。

次回は、より桁数の大きな整数の表現と演算の話題から説明します。

授業サポートページ: https://www.math.tsukuba.ac.jp/~terui/compmath1-2017

0 件のコメント: