今回の授業では、浮動小数の導入と一般的な定義を行った後、現在よく使われている浮動小数点の規格の一つとして、IEEE 754 浮動小数点規格のうち、単精度の浮動小数点規格を紹介しました。
IEEE 754 単精度浮動小数点規格の説明の中で、∞(無限大)とNaN(非数)を表現する際の指数部の値としてE=127と説明しましたが、授業後に指摘を受けて確認したところ、これは誤りで、正しくはE=128でしたので訂正します。ご指摘に感謝します。
授業では、時間の都合でIEEE 754は単精度の規格のみ紹介しましたが、講義ノートには倍精度の規格についても記載しましたので、興味のある人はご参照ください。
引き続いて、浮動小数演算における誤差の説明に入りましたが、「丸め誤差」の説明の後「桁落ち誤差」の説明の途中で時間になりました。次回は「桁落ち誤差」の説明から始め、多精度(多倍長)整数の表記と加算の説明に進みたいと思います。
授業サポートページ:https://www.math.tsukuba.ac.jp/~terui/compmath1-2015
0 件のコメント:
コメントを投稿