お気楽さんすう屋さんateruiの小技とお知らせのまとめです。 "easy arithmetician" aterui's spot for tips and announcements.
今回は、計算機上の数値の表現として、整数表現と浮動小数点数の説明をしました。整数表現では、2の補数による負数の表現を扱いました。
次回は多倍長数の表現を扱います。
本年度も、数学類の「計算機数学I」を担当します。この授業では、主に代数的な計算とアルゴリズムを学びます。
今回は初回ということで、計算機の仕組みや計算機のメモリの構成について説明しました。次回は計算機上の数値の表現について学びます。
授業サポートページ： https://www.math.tsukuba.ac.jp/~terui/compmath1-2019