2015-04-27

計算機数学I(第3回)

今回の授業では、浮動小数の導入と一般的な定義を行った後、現在よく使われている浮動小数点の規格の一つとして、IEEE 754 浮動小数点規格のうち、単精度の浮動小数点規格を紹介しました。

IEEE 754 単精度浮動小数点規格の説明の中で、∞(無限大)とNaN(非数)を表現する際の指数部の値としてE=127と説明しましたが、授業後に指摘を受けて確認したところ、これは誤りで、正しくはE=128でしたので訂正します。ご指摘に感謝します。

授業では、時間の都合でIEEE 754は単精度の規格のみ紹介しましたが、講義ノートには倍精度の規格についても記載しましたので、興味のある人はご参照ください。

引き続いて、浮動小数演算における誤差の説明に入りましたが、「丸め誤差」の説明の後「桁落ち誤差」の説明の途中で時間になりました。次回は「桁落ち誤差」の説明から始め、多精度(多倍長)整数の表記と加算の説明に進みたいと思います。

授業サポートページ:https://www.math.tsukuba.ac.jp/~terui/compmath1-2015

0 件のコメント: